Компания Apple заявляет об ужесточении контроля доступа к диску в macOS из-за новых рисков, связанных с агентами искусственного интеллекта.

Заявление Apple прозвучало вскоре после того, как обозреватель Inc. Джейсон Атен сообщил , что Muse знал содержание его личных сообщений — хотя он утверждал, что не давал ИИ-агенту разрешения. Этот отчет поднял вопросы об уровне безопасности и доверия пользователей к настольным ИИ, который может управлять их системами и читать их файлы и сообщения.

Решение ограничить доступ к функции для Mac также было принято после публикации в Wired статьи о том, что уязвимость в приложении ChatGPT для Mac могла позволить хакерам получить доступ к конфиденциальным данным.

Агенты искусственного интеллекта, работающие на настольных компьютерах, позволяют пользователям предоставлять своим приложениям расширенный доступ к файлам, сообщениям и другому личному контенту на своих компьютерах путем настройки параметров macOS.

В случае с Muse, искусственный интеллект позволяет пользователям по желанию включить полный доступ к диску. Как объясняет Apple, эта настройка дает приложению разрешение на доступ к файлам, почте, сообщениям и даже истории просмотров.

«Некоторые разработчики используют полный доступ к диску таким образом, что это может поставить пользователей под угрозу, раскрывая все данные на их системах… без полного ведома и понимания пользователей», — говорится в новом сообщении Apple в блоге, адресованном разработчикам.

Компания заявляет, что в дальнейшем она введет новые механизмы контроля, направленные на обеспечение того, чтобы пользователи, «искренне желающие предоставить приложению такой исключительный уровень доступа», могли сделать это только с помощью «очень явных действий со стороны пользователя».

«Решение этой проблемы крайне важно. По мере того, как агенты ИИ становятся все более способными и автономными, риски, связанные с таким уровнем доступа, будут существенно возрастать. Мы стремимся к тому, чтобы пользователи четко понимали эти риски, прежде чем предоставлять такой доступ, чтобы они могли принимать обоснованные решения относительно своих данных и конфиденциальности», — написала Apple.