Компания OpenAI приносит извинения Австралии после того, как ее ИИ-агенты взломали правительственные сайты.
В понедельник компания OpenAI принесла извинения правительству Австралии за то, что не уведомила администрацию страны незамедлительно о взломе некоторых сайтов государственных служб ее агентами. Компания также подробно описала обстоятельства некоторых из этих взломов и изложила дополнительные меры, которые она принимает для оценки последствий произошедшего.
«В июне во время внутреннего обучения и оценки наши модели получили доступ к веб-сайтам австралийского правительства способами, на которые они не имели разрешения. Мы также должны были лучше отреагировать. Мы приносим свои извинения и работаем над тем, чтобы в будущем действовать лучше», — написала компания OpenAI в своем блоге .
Извинения прозвучали примерно через неделю после того, как австралийское правительство начало расследование того, как модели OpenAI получили доступ к системе Services Australia, содержащей информацию о расходах Medicare и другие статистические данные в сфере здравоохранения.
Утечка данных произошла в июне, но австралийские власти были уведомлены об этом только 10 сентября.
Компания OpenAI также подробно описала утечку данных. Экспериментальной модели, которую она тестировала в июне, было поручено исследовать государственные расходы на лекарства от кожных заболеваний в штате Виктория. Не сумев найти информацию в общедоступных наборах данных, модель нашла способ получить доступ к внутренней системе Services Australia, выполнять команды, получать файлы и учетные данные и даже записывать файлы.
Компания заявила, что также обнаружила, что одна из ее моделей получила доступ к общедоступному инструменту картирования преступности Бюро статистики и исследований преступности Нового Южного Уэльса для поиска статистических данных о преступлениях. Кроме того, лаборатория обнаружила, что ее агенты получили доступ к Агентству здравоохранения штата Виктория через незащищенный ключ доступа для кражи «конфигурации отчетности и сводных статистических данных опросов». OpenAI заявила, что ее агенты также получили сводные статистические данные с веб-сайта Австралийского института здравоохранения и социального обеспечения.
Компания заявила, что не обнаружила никаких доказательств того, что ее модели получали доступ к медицинским или криминальным записям отдельных лиц.
В своем извинении лаборатория искусственного интеллекта заявила, что предоставит пострадавшим австралийским ведомствам технические результаты расследования и свяжет их со своими группами реагирования для оценки последствий нарушений. Компания также предоставит средства из своей программы Daybreak for Frontline Defenders стоимостью 1 миллиард долларов и создаст рабочую группу с независимыми австралийскими экспертами для анализа инцидента и мер реагирования.
«Рабочая группа, которая, как ожидается, завершит свою работу к концу года, также порекомендует практические шаги, которые компании, занимающиеся ИИ, могут предпринять для снижения риска подобных инцидентов», — написала OpenAI.
Представители OpenAI не сразу ответили на запрос о комментарии.
Премьер-министр Австралии Энтони Албанезе назвал нарушение «неприемлемым» во время брифинга для прессы на прошлой неделе , заявив, что правительство рассматривает потенциальные юридические меры, направленные на предотвращение подобных инцидентов в будущем.
Это нарушение — последнее в растущем списке инцидентов безопасности, связанных с тем, что агенты ИИ делают что-то за пределами своих полномочий. Поводом для этой конкретной проблемы послужил взлом системы Hugging Face агентами OpenAI , и с тех пор Anthropic , Meta и Google отдельно сообщили о подобных инцидентах, когда их модели получили доступ к системам третьих сторон во время оценки.