Управляющий «Википедией» фонд Wikimedia сообщил, что зафиксировал на своих платформах несанкционированную активность ИИ-агентов, предположительно, связанных с компанией OpenAI.
Почти все правки агенты оставили в тестовых разделах-«песочницах», которые не видят обычные читатели. Тем не менее несколько изменений затронули настройки инструмента для оформления ссылок на источники.
В фонде предполагают, что ИИ-агенты пытались превратить его в прокси для получения данных с внешних сервисов. Похожие попытки они предпринимали с Etherpad — сервисом для совместных заметок, но взломать его не смогли.
Кроме того, ИИ-агенты просканировали миллионы страниц и сделали сотни тысяч запросов к службе Wikidata Query Service, что могло способствовать её частичному сбою, который имел место в мае.
Иллюстрация: Evan Mills / WIRED
По данным фонда, с 2024 года из-за роста активности ботов потребление трафика выросло на 50%.
Аналитики Wikimedia не нашли признаков компрометации систем или данных, но вместе с тем выразили беспокойство в связи с «растущими рисками» активности ИИ-агентов на платформах фонда.
В фонде отметили, что OpenAI признаёт «непредсказуемое» поведение агентов, однако должна сама отслеживать и предотвращать такие риски:
Открытый интернет — общественное благо. Мы не должны допустить, чтобы такое поведение стало «новой нормой» для людей и организаций, которые его поддерживают
