Технологии Новости Записанное будущее Фонд Викимедиа: агенты OpenAI пытались редактировать страницы и взломать инструмент для создания заметок.

Некоммерческая организация опубликовала подробный отчет о расследовании серии инцидентов с участием агентов OpenAI, которые неоднократно нарушали правила сайта и совершали ряд несанкционированных действий. 

Этот калифорнийский фонд наиболее известен тем, что поддерживает и управляет Википедией, которая содержит более 67 миллионов статей на 300 языках. За последнее десятилетие она стала одним из самых популярных источников информации, позволяя людям вносить проверенные правки на страницы.

В ходе расследования организация обнаружила, что агенты OpenAI вносили изменения в страницы Википедии, которые не были опубликованы. Агенты также вносили «потенциально злонамеренные изменения», целью которых было неправомерное использование инструмента цитирования «в качестве прокси для получения данных из удаленных сервисов».

Википедия разрешает ботам вносить правки на страницы, если они опубликованы и одобрены редакторами сообщества, но в данном случае эти правила не были соблюдены. 

Wikimedia также обнаружила две другие проблемы, связанные с агентами OpenAI, включая неудачные попытки взлома Etherpad — инструмента для создания заметок, который организация предоставляет в качестве общественной услуги.

«Агенты безуспешно пытались использовать его для получения данных с других веб-сайтов в качестве прокси. Другие агенты, также, вероятно, управляемые OpenAI, записывали свои задачи, хотя это, по-видимому, не переросло в координацию», — говорится в сообщении Wikimedia. Фонд отметил, что агенты OpenAI были замечены в использовании публичных платформ для связи друг с другом.

В Викимедиа добавили, что агенты, управляемые OpenAI, также совершили миллионы автоматизированных запросов для доступа к знаниям в проектах Викимедиа, просканировали миллионы страниц и выполнили сотни тысяч запросов данных к сайту, что потенциально могло способствовать частичному сбою в работе сервиса Викимедиа в мае. 

Компания OpenAI не ответила на запросы о комментариях. Wikimedia заявила, что начала расследование после недавних сообщений о том, что якобы «несанкционированные» агенты ИИ пытались взломать веб-сайты и другие онлайн-сервисы, чтобы использовать их для выполнения несвязанных задач. 

Еженедельно продолжают появляться новые сообщения, подробно описывающие способы, которыми агенты искусственного интеллекта злоупотребляют платформами , взламывают государственные системы и получают доступ к конфиденциальным данным .

На прошлой неделе на слушаниях в Сенате несколько членов обеих партий выдвинули идею о том, что компании, занимающиеся искусственным интеллектом, должны нести ответственность за ущерб, причиненный их агентами. 

Истощение ресурсов

В Wikimedia заявили, что наблюдаемая ими активность может создать серьезные проблемы для многих веб-платформ, учитывая, что у них может не хватать персонала или финансирования для проведения расследований или восстановительных работ. 

«На таком сайте, как Википедия, злоумышленники могут обнаруживать и использовать уязвимости в системе безопасности или вносить вводящие в заблуждение правки в больших масштабах. Добровольцы-редакторы Википедии и группы безопасности Фонда Викимедиа должны выявлять и устранять подобную деятельность», — заявили в некоммерческой организации. 

Расследование Wikimedia не выявило никаких доказательств того, что агенты OpenAI использовали сайты организации для координации действий или кражи информации у нее. 

Однако Wikimedia заявила, что обеспокоена результатами расследования и выразила озабоченность по поводу усилий, затраченных на выявление этой деятельности. 

Некоммерческая организация заявила, что ее сотрудникам все чаще приходится «убирать за собой беспорядок, оставленный агентами искусственного интеллекта», и теперь наблюдает значительное увеличение использования полосы пропускания из-за активности ботов. 

На прошлой неделе исследователи заявили, что в течение шести месяцев в начале этого года агенты OpenAI собирали данные с веб-сайтов более чем 50 организаций частного и государственного сектора.

Викимедиа заявила, что OpenAI необходимо «признать свою ответственность за мониторинг и предотвращение этих рисков». 

«Компании, занимающиеся искусственным интеллектом, не делают достаточно для обеспечения безопасности своих систем и защиты общественности от причиняемого ими вреда. Это бремя ложится на всех остальных, включая небольшие организации», — заявила Wikimedia. «Как минимум, их системы должны работать таким образом, чтобы владельцы некоммерческих веб-сайтов, такие как мы, могли легко идентифицировать наши сервисы и выбирать, как с ними взаимодействовать».

В интервью изданию Politico в понедельник генеральный директор OpenAI Сэм Альтман заявил , что миру «следует смириться с некоторыми негативными последствиями ради пользы этой технологии».