«Википедию» атакуют выдуманными статьями

 В онлайн-библиотеке начали появляться материалы, которые не имеют ничего общего с действительностью. Их создают злоумышленники с помощью чат-ботов.

Популярнейшая онлайн-библиотека «Википедия» находится в состоянии тяжелого кризиса, сообщают зарубежные СМИ. Виной тому послужил искусственный интеллект. Неизвестные пользователи начали заполнять веб-сайт бессмысленными статьями, придуманными большими языковыми моделями, такими как ChatGPT.

Редакторы энциклопедии уже не первый месяц замечают новые статьи и отрывки в уже существующих записях, которые написал не человек, а чат-бот.

Некоторые из нас заметили отрывки, написанные неестественным языком. Мы обратили внимание на необычный стиль письма, который явно не принадлежал человеку, и смогли воспроизвести эти фразы с помощью ChatGPT. Обнаружив характерные обороты и выражения, мы идентифицировали наиболее вопиющие примеры сгенерированных статей.

Ильяс Леблю, редактор «Википедии»

Например, недавно в энциклопедии появилась статья о некой османской крепости под названием «Амберлисихар». Если верить материалу, крепость была построена в 1400-х годах. В тексте объемом 2000 символов подробно были описаны местоположение и история строительства объекта. Но есть нюанс — крепости «Амберлисихар» никогда не существовало. Статья была полностью придумана ИИ. Нейросети наполнили текст достаточным количеством фактической информации, чтобы придать ему правдоподобности.

Также ИИ-модели портят имеющиеся материалы. В частности эксперты описывают случай, когда в статью про жука был добавлен раздел про крабов. Самое интересное — ссылка на материал про крабов была настоящая, однако сами животные друг с другом никак не связаны.

ИИ-фейки в «Википедии»: как решается проблема

Группа энтузиастов во главе редактора Ильяса Леблю запустила проект WikiProject AI Cleanup (https://en.wikipedia.org/wiki/Wikipedia:WikiProject_AI_Cleanup). Волонтеры вручную ищут ИИ-фейки, редактируют и удаляют ложную информацию, которую в энциклопедию добавили с помощью чат-ботов.

Представители организации не понимают, зачем злоумышленники портят крупнейшую библиотеку. Кто за этим стоит, тоже предстоит узнать. Эксперты считают, что главный недостаток «Википедии» — открытость платформы. Сейчас кто угодно может стать редактором и написать полную чушь. Именно поэтому многие университеты не принимают работы студентов, в которых есть цитаты оттуда.

Также специалисты недовольны тем, что искусственный интеллект слабо регулируется во всем мире, из-за чего интернет наводнили фейки со сгенерированными текстами и изображениями. Отличным решением было бы добавление водяных знаков и других меток, которые давали понимать, что контент создан не человеком.

Ранее в россиян предупредили о закрытии одного из отечественных аналогов «Википедии».

Фото: Shutterstock

Никита Лактюшин

https://hi-tech.mail.ru/