Компания Google DeepMind запускает институт для расширения дискуссии об искусственном общем интеллекте.

Цель нового института — выявить расхождения во взглядах между Google, Google DeepMind и более широким мировым исследовательским сообществом в области искусственного общего интеллекта. «Они не всегда будут соглашаться друг с другом и, вероятно, изменят свое мнение по мере появления новых данных и информации на быстро развивающемся рубеже», — говорится в заявлении.

Первый сборник из четырех эссе охватывает широкий круг тем: экономическую политику управления потенциальными сбоями в работе искусственного интеллекта, сохранение понятного человеку логического мышления моделей, принципы процветания человека и структуру для оценки передовых моделей ИИ. 

В одной из статей , написанной исследователями безопасности из DeepMind Рохином Шахом и Анкой Драган, утверждается, что сужение «окна прозрачности» ИИ — возможности видеть и проверять пошаговое рассуждение модели — не является неизбежным. Поскольку новые архитектуры затрудняют мониторинг самых мощных моделей , авторы говорят, что разработчики и регулирующие органы должны напрямую столкнуться с компромиссами в области безопасности. Это может означать ограничение «непрозрачной последовательной глубины» — объема последовательных вычислений, которые модель может выполнить без получения читаемого следа рассуждений, — или требование от разработчиков демонстрировать, что менее прозрачные системы остаются столь же легко контролируемыми.

В другом эссе Хассабис предлагает создать возглавляемый США орган по стандартизации передовых технологий в области ИИ для оценки самых современных моделей ИИ. В рамках его концепции разработчики первоначально будут добровольно представлять модели на проверку за 30 дней до выпуска. После того, как система оценки докажет свою эффективность, прохождение ее тестов может стать обязательным условием для внедрения передовых моделей в Соединенных Штатах.

Первоначально эта организация будет разрабатывать оценочные процедуры в консультации с компаниями, занимающимися искусственным интеллектом, но в конечном итоге разработает независимые, нераскрытые оценки — то, что в эссе называется «закрытыми» тестами, — чтобы предотвратить адаптацию лабораторий к известным оценкам. Хассабис сказал, что эта структура может быть «ужесточена, если того потребует серьезность ситуации», потенциально включая скоординированное замедление работы среди разработчиков передовых решений в области ИИ. 

Эти эссе появились на фоне того, как дискуссия о безопасности в отрасли смещается от общих заявлений о беспокойстве к конкретным предложениям по раскрытию информации, внешнему контролю и, если меры безопасности окажутся недостаточными, скоординированному замедлению темпов развития. Этот сдвиг ускорился на этой неделе, когда лидеры отрасли поддержали некоторые элементы призыва генерального директора Anthropic Дарио Амодея «ускорить» разработку передовых технологий в области ИИ.