Сатья Наделла из Microsoft утверждает, что моделям искусственного интеллекта необходим «аварийный тормоз».
Генеральный директор Microsoft Сатья Надела стал очередным руководителем технологической компании, поделившимся подробными соображениями о том, как можно повысить безопасность искусственного интеллекта.
В субботней утренней публикации на X Наделла написал, что пришло время «отступить назад и оценить архитектуру доверия» в ИИ.
«Мы не можем рассматривать сверхинтеллект как набор вложенных друг в друга черных ящиков и просто принимать или отклонять его рекомендации, ответы и действия», — написал Наделла, используя предпочтительный термин администрации Трампа для обозначения ИИ .
Как пояснил Наделла, такой подход «означает отделение модели от системы, которая управляет ее работой», а также «вынесение средств контроля и защиты за пределы системы». Он также призвал к тому, чтобы «каждое значимое действие модели» документировалось с помощью «защищенных от подделки, читаемых человеком доказательств», и к созданию систем, где «уполномоченное лицо» всегда имеет возможность «приостановить или остановить работу модели в середине выполнения задачи».
«Мы должны исходить из того, что модель скомпрометирована, и изолировать её с самого начала», — сказал он. «Представьте это как аварийный тормоз».
Комментарии Наделлы прозвучали на фоне того, как ведущие компании, занимающиеся искусственным интеллектом, все чаще признают случаи, когда , по-видимому, теряют контроль над своими моделями , а также после того, как генеральный директор Anthropic Дарио Амодей опубликовал план более осторожного развития ИИ.