Компания Laplace Intelligence проводит «красную команду» по проверке роботов и беспилотных автомобилей до их выхода в реальный мир.

«Представьте, если бы что-то подобное произошло в реальном мире», — сказал Хоуи Сан, генеральный директор и соучредитель Laplace Intelligence . «Агенты искусственного интеллекта переходят из компьютеров в реальный мир, и мы действительно не хотим, чтобы физический ИИ потерпел неудачу в реальном мире».

Компания Laplace из города Анн-Арбор разрабатывает автоматизированную систему тестирования на прочность (red-teaming) — по сути, стресс-тестирование системы путем преднамеренного выведения ее из строя — для робототехники и физического ИИ. Компания делает ставку на то, что единственный способ гарантировать безопасность физического ИИ — это провести его тестирование с помощью ИИ.

«Наша цель — помочь компаниям выявлять и устранять проблемы до начала внедрения, а со временем создать общую базу данных, которой смогут доверять клиенты, страховщики и регулирующие органы», — сказал Сан.

Сан вместе со своим соучредителем и главным научным сотрудником Генри Лю основал компанию Laplace год назад в Мичиганском университете. Последние восемь лет Сан посвятил исследованиям в академической среде, изучая способы противодействия искусственному интеллекту в системах автономного вождения в симуляционном режиме. В 2023 году он и Лю — его тогдашний научный руководитель — опубликовали статью на эту тему, которая попала на обложку ведущего научного журнала Nature. Именно тогда начали поступать звонки от компаний, занимающихся разработкой беспилотных автомобилей, заинтересованных в реализации их идей. 

«Я понял, что хочу создать это и превратить чисто академическое исследование в продукт, полезный в реальном мире», — сказал Сан. 

Опираясь на свои научные исследования, Сунь и Лю построили Лаплас, названный так в честь «демона Лапласа» — мысленного эксперимента 1814 года французского учёного Пьера-Симона Лапласа, который предположил, что, зная точное состояние всего во Вселенной, можно с абсолютной точностью предсказывать будущее.

«По сути, мы используем моделирование для прогнозирования будущего реального мира», — сказал Сунь. 

В основе стартапа лежит высокоточная симуляция, воссозданная на основе реального мира, в сочетании с агентом искусственного интеллекта, который постоянно выявляет слабые места и точки отказа. Цель состоит в том, чтобы гарантировать безопасность любого физического ИИ — будь то робот, беспилотный автомобиль или решение для «умного города» — в симуляции, прежде чем он будет развернут в реальном мире. 

В качестве среды моделирования используется постобработанная версия Nvidia Cosmos, платформы для моделирования мира с помощью ИИ, которая основана на реальном мире, что позволяет Laplace восстанавливать что угодно — от шоссе в Аризоне до пешеходного перехода в Париже. Моделирование создается путем смешивания различных данных из реального мира. Изображение из Google Street View может служить эталоном для создания целой улицы. Но вместо генерации случайных данных симулятор объединяет данные реальных карт для воссоздания среды в масштабе. 

Затем разработчики могут использовать языковые подсказки для изменения настроек в режиме реального времени, например, для добавления информации о пробках во второй половине дня. По словам Сана, Laplace получает информацию о дорожной ситуации и заторах в режиме реального времени от навигационных систем, таких как TomTom. 

В симуляциях Лапласа моделируется не только окружающая среда, но и поведение других участников. Например, во время демонстрации Сан дал указание тестовому агенту резко свернуть на встречную полосу. Автомобиль, в который он бы врезался — или проехал бы сквозь него, как это часто бывает в некоторых генеративных моделях мира — увернулся, чтобы избежать столкновения. 

«Это действительно интерактивная среда моделирования, — сказал Сан. — Все реагируют на всё… Это больше похоже на модель мира с интерактивными участниками».

Хотя смоделированная среда является важной частью продукта Laplace, настоящая уникальная особенность заключается в агентах искусственного интеллекта, которые стартап разрабатывает для автоматического моделирования нестандартных ситуаций (сложных, редких сценариев, которые могут вывести из строя систему ИИ), тем самым еще больше исключая участие человека. 

«Они могут разрабатывать модели на основе новостей, полицейских отчетов о столкновениях — на основе всевозможной информации, чтобы активно бросать вызов автономным транспортным средствам и другим физическим агентам искусственного интеллекта», — сказал Сунь.

Сегодня разработчики беспилотных автомобилей в основном обучают ИИ обрабатывать нестандартные ситуации, используя записанные видеоматериалы, которые затем превращаются в симуляцию, или полагаясь на людей, которые придумывают новые идеи и разрабатывают их. Хотя многие компании, занимающиеся беспилотными автомобилями, уже сделали то, что предлагает Лаплас, и начали использовать ИИ для создания нестандартных ситуаций для обучения — на ум приходит компания Waabi, занимающаяся разработкой беспилотных грузовиков, — потребность в подобных технологиях станет очевидной, когда мы начнем внедрять универсальных роботов в реальный мир. 

«Данные по робототехнике в целом ограничены, — сказал Сан. — Никто не знает, какие будут нестандартные ситуации в реальном мире».

Несмотря на то, что Сунь и Лю пришли из академической среды и не имеют блестящего опыта работы в технологических компаниях Кремниевой долины, им удалось начать получать доход и даже получить скромную прибыль. Большая часть денег поступает от проектов по внедрению автономного вождения, среди клиентов — техасская компания Bot Auto, занимающаяся разработкой беспилотных грузовиков, и крупный японский автопроизводитель. 

Компания Laplace также сотрудничает с Nvidia и T-Mobile над бесплатным пилотным проектом «умного города» в Сан-Хосе, штат Калифорния, для обеспечения высокоэффективного управления дорожным движением. Кроме того, Laplace находится на ранних этапах работы с партнерами над созданием человекоподобных роботов для складских помещений.  

Сегодня большинство клиентских контрактов Laplace заключены на проектной основе, и компания работает над тем, чтобы превратить это в постоянный доход. Краткосрочная цель стартапа — которой, как он надеется, поможет участие в Disrupt — это привлечение средств и масштабирование, чтобы он мог конкурировать со своими соперниками. 

Главным конкурентом является Applied Intuition , перспективный стартап на поздней стадии развития, который на сегодняшний день привлек 1,2 миллиарда долларов при оценке после инвестиций в 15 миллиардов долларов.

Сунь не слишком обеспокоен. Он считает, что основная методология Лапласа, заключающаяся в использовании ИИ для тестирования ИИ, представляет собой «новую парадигму, которая полностью меняет тестирование физического ИИ», превращая его в «динамичный интерактивный процесс тестирования».

«Это будет самый большой ров», — сказал он.