Gemini от Google — это новейшая модель искусственного интеллекта, которая взламывает системы других компаний.

Подобно взлому Hugging Face компанией OpenAI , взломы Gemini были примечательны не столько своей изощренностью, сколько тем, что они были осуществлены с помощью модели искусственного интеллекта. Эти взломы произошли во время тестирования кибербезопасности, проводимого компанией Irregular. В одном случае Gemini просто угадывала пароли, пока не получила доступ; в двух других случаях она нашла учетные данные в общедоступном репозитории.

По сообщениям, компания Irregular уведомила Google о взломах в конце июля, но компании не подтвердили это публично до пятницы, после того как с ними связалась газета Wall Street Journal. Google заявила, что ранее не сообщала о взломах, поскольку Gemini «действовала надлежащим образом», прекращая каждое нарушение, как только определяла, что взломала реальную компанию.

Однако Джек Кейбл, генеральный директор компании Corridor, занимающейся вопросами безопасности ИИ, заявил Wall Street Journal, что Google «пытается спрятаться за нормами, созданными для раскрытия информации об уязвимостях», вместо того чтобы признать, что «модели выходят за рамки того, что они должны делать, и совершают реальные кибератаки».