Действительно ли индустрия искусственного интеллекта готова к замедлению темпов развития?

В последнем выпуске подкаста Equity мы с Кирстен Коросек и Шоном О'Кейном обсудили, насколько серьезно руководители, такие как Амодей и генеральный директор OpenAI Сэм Альтман, хотят замедлить темпы развития.

Хотя меня удивило, как много лидеров отрасли, похоже, поддержали план Амодеи, Шон отметил, что в плане, по-видимому, недостаточно деталей.

Когда Кристен спросила, может ли сочетание существующих правил и функционирования свободного рынка само по себе обеспечить достаточные гарантии, Шон ответил: «В настоящий момент федеральное правительство, похоже, не горит желанием применять правила в целом, не говоря уже о конкретном применении правил в данном случае».

Кроме того, он утверждал: «Похоже, что потребительский выбор не является определяющим фактором на этом рынке в том смысле, что если одна из этих компаний совершит что-то действительно плохое, то это отразится на количестве отмен бронирований или чем-то подобном».

Продолжайте читать, чтобы ознакомиться с фрагментом нашей беседы , отредактированным для краткости и ясности.

Энтони Ха: Шон, что ты думаешь? Мы действительно собираемся «идти в ногу с освоением новых территорий»?

Шон О'Кейн: Почему-то это звучит как что-то из фильма «На гребне волны». Это очень по-калифорнийски, что-то вроде: «Мы будем бороздить просторы Дикого Запада, чувак». 

Я не знаю. На прошлой неделе в этой передаче я говорил , что не думаю, что нас ждет какое-либо замедление, в значительной степени потому, что, на мой взгляд, структура этих компаний не позволяет этого избежать.

Это был довольно резкий поворот событий по сравнению с тем, что я говорил неделю назад, услышав это от Дарио из Anthropic, Сэма из OpenAI и даже в некоторой степени от Илона Маска — и мы можем обсудить, верить этому или нет. Скажу честно, я не думаю, что был полностью неправ, потому что даже с этими общими планами, которые Дарио изложил в своем блоге, и о которых говорили некоторые другие лидеры, мне кажется, нам все еще не хватает многих конкретных деталей, не только в отношении некоторых утверждений о том, почему эти люди считают, что существуют опасности и риски, но и в отношении того, что они подразумевают под замедлением. 

Энтони, я знаю, что ты довольно внимательно читал всё это на прошлых выходных, когда всё так бурно обсуждалось, поэтому мне любопытно, может быть, ты более великодушен, чем я, в плане понимания того, что они пытаются здесь сказать.

Энтони: Я тоже задаюсь вопросами. Меня особенно поразило то, что так много людей в отрасли, похоже, довольно быстро объединились вокруг этой идеи. Еще до того, как Амодей опубликовал свой пост в блоге, я видел, как другие люди публиковали какую-то версию этого [плана] за несколько дней до этого.

Насколько я понимаю, эти предложения, поступившие от сообщества специалистов по безопасности ИИ, обсуждались уже некоторое время. Это не просто идеи, придуманные [Амодеем] самостоятельно. Но, похоже, многие были готовы их принять, и в некотором смысле обнадеживает тот факт, что существует консенсус. Однако это также заставляет меня немного скептически относиться к тому, что это будут реальные, серьезные шаги к замедлению роста.

Кирстен Коросек: Во-первых, консенсус может быть полезен. Кроме того, он может стать началом формирования картеля. Поэтому давайте уточним, о ком мы здесь говорим. Мы говорим о передовых лабораториях искусственного интеллекта. И это важно и необходимо.

Вы только что сказали, что детали не совсем ясны, но мы знаем, что общая идея заключается в том, что независимые сторонние эксперты, работающие внутри таких компаний, как Anthropic или OpenAI, будут отслеживать соблюдение правил безопасности ИИ и инциденты. Но вокруг этого много неясностей.

Затем есть еще одно предложение: поручить крупным компаниям, занимающимся искусственным интеллектом в демократических странах, координировать разработку стандартов и ограничений безопасности. И, наконец, вопрос международной координации. Вот общие идеи по этому поводу.

Также добавлю, что со стороны очень конкретных людей было очень значительное сопротивление. И, как ни странно, некоторые люди, от которых я не ожидал сопротивления, — это, пожалуй, генеральный директор Nvidia Дженсен Хуанг, который высказался довольно резко. Не знаю, что вы оба думаете о […] некоторых его комментариях и о телефонном разговоре с президентом Трампом на сцене [на саммите All-In].

Шон: Я думаю, Дженсен понимает, что в определенной степени его воспринимают как «взрослого в этой комнате». Это интересно, потому что, как мне кажется, эта динамика изменилась. Если бы вы спросили людей год или почти два года назад, кто играл эту роль, когда эти компании, занимающиеся ИИ, действительно начали стремительно развиваться, я думаю, многие бы указали на Microsoft и Сатью Наделлу. И мне кажется, что Microsoft — по ряду причин, которые нам сейчас не нужно обсуждать — утратила эту роль «взрослого в комнате». Безусловно, отчасти потому, что Наделла сказал, что заставит Google танцевать , а этого так и не произошло. И на самом деле, во многом произошло обратное.

Дженсен, я думаю, понимает не только то, что ему нужно угодить как можно большему числу людей, поэтому он хочет говорить максимально взвешенные вещи, но и то, что он является одним из самых полезных связующих звеньев между этой сферой и этой администрацией, до такой степени, что ему звонит президент, когда он находится на сцене этой очень многолюдной и престижной конференции, которая позволила им обоим отреагировать на весь этот бардак.

Кирстен: Что касается вашего замечания о том, что он — взрослый человек в этой ситуации и связующее звено, он действительно находится в таком положении, когда может это делать. Но, на мой взгляд, его появление, которое выглядело немного постановочным, зашло слишком далеко и подчеркнуло тот факт, что Nvidia получает огромную выгоду от развития ИИ, которое происходит неравномерно.

Не хочу показаться циничным, но это была примерно моя первая реакция на это.

Энтони: Интересы Трампа и Хуанга совпадают, и к тому же [Хуанг] говорит [Трампу] то, что тот хочет услышать. 

Мне показалось, что некоторые моменты, на которых он сосредоточился, заслуживают более подробного обсуждения. Во-первых, он говорил об идее: «У нас не будет замедления». Интересно, что само это выражение «замедление», которое часто встречается, — но в то же время и Альтман, и Амаде используют терминологию замедления, но чаще они предпочитают слово «темп», верно? 

И эти три предложения — те, которые вы только что описали, Кирстен, — теоретически, могут привести к замедлению темпов работы, но в них это прямо не говорится. В них говорится: «Мы принимаем некоторые базовые меры безопасности и поручаем некоторым людям следить за нами». Но ни одно из этих предложений само по себе не означает, что темпы работы должны быть ниже, чем сейчас, по крайней мере, насколько я понимаю.

Кирстен: У меня вопрос к Шону. Разве нельзя утверждать, что в обществе свободного рынка, где действуют существующие правила и отсутствует протекционизм, если компания выпускает что-то небезопасное, она больше не сможет быть жизнеспособной? И что сегодня существуют регулирующие органы, которые могут преследовать такие компании? Или вы отвергаете эту идею?

Шон: В вакууме или на рынке, не подверженном искажениям со стороны множества различных внешних факторов, да, я думаю, такой элемент присутствует. Но в данный момент федеральное правительство, безусловно, не проявляет особого желания вводить правила в целом, не говоря уже о конкретном вопросе. 

И мы также оказались в странной ситуации, когда — я не знаю, как правильно это сформулировать, — кажется, что потребительский выбор не является определяющим фактором на этом рынке в том смысле, что если одна из этих компаний совершит что-то действительно плохое, то это отразится на количестве отмен бронирований или чем-то подобном.

Особенно сейчас, когда они перешли в корпоративный сектор и зарабатывают гораздо больше денег, продавая свои услуги компаниям, им, естественно, сложнее голосовать своими деньгами там. Корпорации не собираются переходить от Кодекса [OpenAI] к Кодексу Клода [Anthropic] только потому, что они принципиально не согласны с чем-то, что сделала OpenAI.

Кроме того, в них вложено столько инвестиций, что им легче компенсировать любые убытки, если они действительно с ними столкнутся. Поэтому я думаю, что в теории это хорошая идея, но на практике, мне кажется, ничего подобного не происходит.