Австралия проведет расследование, чтобы выяснить, нарушил ли взлом правительственного веб-сайта здравоохранения компанией OpenAI закон.

Альбанезе заявил, что после утечки данных «очевидно, будут юридические последствия», и что OpenAI столкнется с правительственным расследованием по поводу того, как ее невыпущенные модели получили доступ к огромному объему медицинских данных.

Этот последний инцидент произошел в то время, когда правительства и технологические компании пытаются понять, как обуздать все более автономный ИИ после недавней волны случаев, когда агенты ИИ выходили за пределы своих «песочниц», вступали в сговор в интернете и создавали проблемы кибербезопасности.

Этот инцидент также поднимает вопросы о том, как OpenAI и правительство Австралии смогли обнаружить атаку лишь спустя несколько месяцев.

В ходе брифинга для прессы в Генеральной Ассамблее ООН в среду Альбанезе заявил, что утечка данных началась 18 июня, но компания OpenAI уведомила правительство только 10 сентября.

Как сообщил представитель OpenAI, компания узнала об инциденте только в августе, когда он всплыл в ходе более масштабной общекорпоративной проверки поведения агентов, нарушающих установленные правила.

Неназванный агент OpenAI получил доступ как к общедоступным, так и к закрытым файлам из Services Australia, которая управляет австралийской системой всеобщего здравоохранения. Хотя премьер-министр заявил, что нет доказательств утечки личной информации граждан, OpenAI сообщила, что полученная агентом информация включала сводные статистические данные о состоянии здоровья и названия внутренних файлов.

Агент работал во время внутренней оценки OpenAI, пытаясь получить ответы на вопросы об Австралии и общедоступной информации о лекарствах. На портале Medicare агент неоднократно сталкивался с блокировками, но находил способы их обойти. 

Альбанезе заявил журналистам, что модель «не принимала отказ», и добавил, что модель активно записывала данные в правительственную базу данных, а не просто получала к ней доступ, что указывает на возможность того, что данные ведомства были изменены или искажены.

Премьер-министр заявил, что компания OpenAI сообщила о взломе, отправив уведомление на общедоступный почтовый ящик Services Australia, которая затем через пять дней уведомила Австралийский центр кибербезопасности. Неясно, почему произошла задержка, но Альбанезе сказал, что он напрямую сообщил о взломе генеральному директору OpenAI Сэму Альтману, подчеркнув «крайнюю обеспокоенность» Австралии этим инцидентом и «разочарование» тем, что OpenAI скрывала информацию почти три месяца.

«Эта ситуация, безусловно, неприемлема», — заявил Альбанезе, ясно дав понять, что он возлагает на компанию ответственность как за взлом, так и за то, как медленно он был раскрыт.

Альбанезе заявил, что в ходе правительственного расследования будут рассмотрены меры, принимаемые правоохранительными органами и законодательными органами для предотвращения повторения подобных инцидентов.

Австралийское СМИ ABC News сообщает, что последняя выявленная атака, возможно, основывалась на более раннем взломе немецкого вики-сайта , который использовался в качестве плацдарма для атаки на веб-сайт австралийского правительства. По имеющимся данным, агенты, использующие модель искусственного интеллекта, оставляли заметки для последующих взломов, в том числе заметку о получении данных из Австралийского института здравоохранения и социального обеспечения, федерального агентства, публикующего национальные данные о здравоохранении. Это агентство является одной из трех дополнительных систем, которые, по словам Альбанезе, могли быть взломаны.

Некоммерческая исследовательская лаборатория Transluce, занимающаяся разработкой искусственного интеллекта, отдельно обнаружила общедоступные записи, свидетельствующие о том, что агенты ИИ атаковали Австралийский институт здравоохранения и социального обеспечения 20 и 21 июня.

Компания OpenAI не ответила на конкретный запрос о том, связаны ли эти инциденты между собой, но признала свою «деятельность, затрагивающую несколько веб-сайтов и сервисов австралийского правительства».

Этот инцидент произошел после серии инцидентов безопасности, вызванных действиями вредоносных агентов, часто действующих в инфраструктуре лабораторий искусственного интеллекта. В июле рои агентов OpenAI взломали Hugging Face. С тех пор были выявлены новые случаи взлома агентов ИИ от Anthropic, Meta и Google .

В OpenAI заявляют, что проводят «тщательный анализ некорректной работы моделей во время обучения и оценки» и уведомляют третьих лиц о потенциальных нарушениях.