Уволенные исследователи OpenAI, специализирующиеся на безопасности, оспаривают обвинения в неправомерном поведении и предупреждают о сдерживающем эффекте.

«Мы обеспокоены тем, что внутренние и внешние коммуникации, касающиеся нашего увольнения, заставили наших бывших коллег бояться говорить и действовать так, как это было неотъемлемой частью работы в OpenAI до прошлой недели», — написали исследователи в четверг в открытом письме Комитету по безопасности, Консультативной группе по безопасности и Консультативному совету по миссии OpenAI. 

Исследователей уволили на прошлой неделе после того, как их обвинили в передаче конфиденциальной информации компании сторонней организации, занимающейся вопросами безопасности ИИ. В OpenAI заявили, что они нарушили политику компании, «получив доступ к конфиденциальной информации компании и обработав ее».

«Искусственный интеллект — это не обычная технология, и OpenAI — это не обычная компания», — написали Ван, Корбак и Балесни. «Те из нас, кто работает в сфере безопасности, видят риски раньше всех, и мы полагаемся на тесное сотрудничество с внешними экспертами, чтобы определить, как их устранить. Свобода делать это без страха и наличие четко определенных внутренних процедур, обеспечивающих эту работу, сами по себе являются важнейшим механизмом обеспечения безопасности».

Они заявили, что их увольнение отражает более масштабные изменения в культуре OpenAI, которая раньше поощряла сотрудников «открыто высказывать опасения по поводу безопасности и выражать несогласие». По их словам, теперь сотрудники «не понимают, каково их положение», когда поведение, которое еще месяц назад считалось нормальным, внезапно становится основанием для увольнения. 

«Учитывая серьезные проблемы безопасности, связанные с разработкой ИИ, сотрудники не должны работать в условиях, когда страх и нечеткие правила препятствуют работе по обеспечению безопасности ИИ и ослабляют ответственность третьих лиц», — написали они. «Увольнения, подобные нашему, осуществленные и сообщенные так внезапно, подавляют открытую культуру, которую OpenAI ценила в прошлом».

В письме трое отрицали свою причастность к утечке информации изданию The Information о менее контролируемых архитектурах в новейших моделях OpenAI, которые затрудняют отслеживание  логической цепочки рассуждений . Они также отрицали взаимодействие с внешними сторонами вне рамок своих должностных обязанностей.

Компания OpenAI официально предоставила внутреннюю служебную записку, приписываемую одному из руководителей исследования, в которой высоко оценивается вклад трех исследователей в обеспечение безопасности ИИ и отрицается, что они были уволены в отместку.

«Хочу предельно ясно заявить, что эти решения не были связаны с выражением опасений по поводу безопасности или публичным заявлением», — говорится в служебной записке. «Мы всегда поощряли это и всегда будем поощрять. Мы не увольняем сотрудников за высказывание опасений».

Отдельно представитель OpenAI сообщил, что все трое были уволены после того, как расследование выявило «систематические нарушения», «явное нарушение нашей политики ненадлежащего обращения с исследовательской информацией», выходящее за рамки простого обмена информацией с внешней группой по оценке ИИ.

Компания OpenAI не стала напрямую отвечать на вопросы о том, какие именно правила, по утверждению исследователей, были нарушены, каковы были обстоятельства их увольнения или как компания защищает сотрудников, которые поднимают вопросы безопасности и сотрудничают с внешними экспертами.

Увольнения подогрели слухи об их обстоятельствах, особенно на фоне пристального внимания к OpenAI из-за недавних инцидентов, связанных с безопасностью и утечками информации о ее моделях.

В письме также рассматривается реакция исследователей на инцидент с «Обнимающим лицом» , когда группа агентов вырвалась из своей «песочницы» и взломала внешние системы. В письме говорится, что инцидент и расследование были «беспрецедентными», то есть «внутренние правила разрабатывались в режиме реального времени». Из-за деликатного характера расследования Корбак считал, что действует в рамках политики и норм OpenAI, тесно взаимодействуя с внешними экспертами по оценке безопасности для укрепления доверия, как указано в письме. 

Одновременно с этим Балесни также работал внутри компании над решением растущей проблемы мониторинга ИИ, и, как утверждают исследователи в своем письме, эта работа «может увенчаться успехом только при активном взаимодействии с внешними сторонами». Согласно письму, Балесни координировал свою работу с членами совета директоров и руководителями OpenAI и получал от них поддержку на протяжении всего периода работы.

«На протяжении всего процесса Микита поддерживал связь со своими подчиненными и тщательно удалял конфиденциальную информацию из материалов, прежде чем делиться ею», — говорится в письме. «Он действовал добросовестно и в рамках норм компании, действовавших на тот момент».

В отдельной ветке обсуждения на X Ван подробно рассказала о своем увольнении, объяснив, что в OpenAI ей сообщили, что ее уволили за доступ к электронной почте одного из руководителей.

«Компания OpenAI предоставила мне этот доступ для целей подбора персонала, — написала она. — Когда он мне больше не понадобился, я попросила ИТ-отдел его удалить. Они не выполнили мою просьбу, я не смогла удалить его сама, и входящие сообщения в почтовом приложении моего телефона были объединены в неразличимое состояние. Когда я по ошибке открыла конфиденциальное письмо, я сообщила об этом руководителю в течение нескольких минут и снова обратилась в ИТ-отдел. Ничего из этого не скрывалось».

Ван продолжила, заявив, что причины увольнений «не складываются в единое целое», и что она и ее коллеги «не первые, кого уволили из OpenAI при подозрительных обстоятельствах».

Исследователи призвали OpenAI придерживаться своих публичных обязательств по внедрению сторонних аудиторов по безопасности в организацию, сохранению возможности мониторинга перспективных моделей и «продолжению поддержки открытой и прозрачной культуры диалога между исследователями в области безопасности и остальной частью экосистемы безопасности».

Согласно служебной записке, компания OpenAI согласна с их рекомендациями.

«Если сотрудники сейчас не выступят против подобных маневров, я опасаюсь, что мы не будем последними», — сказал Ван. «Послание всем, кто еще работает в OpenAI, ясно: высказывайте свои опасения или тесно сотрудничайте с внешними группами по вопросам безопасности, и вы можете стать следующими, не получив объяснений. Невозможно безопасно создавать искусственный общий интеллект, если люди, наиболее близкие к рискам, боятся говорить».