Компания Lola Vision Systems пытается упростить запуск моделей искусственного интеллекта на микросхемах.
История началась почти 12 лет назад, когда Тайо Адесанья начал карьеру, работая с микрочипами и процессорами для искусственного интеллекта. В основном он помогал крупным производителям выбирать, какие чипы использовать в их оборудовании. Эти годы, как он рассказал, дали ему раннее представление о том, куда движется спрос на рынке вычислительных систем для ИИ. «Создание Lola Vision Systems было ставкой на то, куда движется мир и что я видел», — сказал он.
В 2024 году он основал компанию Lola Vision Systems , занимающуюся инфраструктурой искусственного интеллекта и разрабатывающую программное обеспечение и микросхемы для запуска моделей ИИ на устройствах. Основной продукт компании — это программное обеспечение, которое преобразует модели ИИ в инструкции, которые может выполнить конкретный чип. Адесанья называет это программное обеспечение «инструментарием компилятора» и говорит, что это огромное узкое место: ручная настройка модели ИИ на новом оборудовании может занять «примерно 200 часов» только для начала тестирования. Lola Vision заявляет, что перестроила этот программный слой и также разрабатывает собственные полупроводниковые микросхемы с целью автоматизации большей части процесса. Клиент предоставляет свой код и модель ИИ, которую он хочет использовать, будь то собственная разработка или открытый исходный код, и программное обеспечение преобразует и то, и другое в инструкции, которые может выполнить чип клиента.
«Скорость — это лишь часть решения», — сказал Адесанья. Он пояснил, что более быстрая настройка дает аэрокосмическим и «другим компаниям, критически важным для выполнения задач», время для «запуска более точных моделей на собственных данных с меньшим энергопотреблением».
«Для этих клиентов, — сказал он, — точность и надежность — это не просто желательные качества. От них зависит, пройдет ли продукт проверку регулирующих органов и будет ли он надежно работать в полевых условиях».
Компания Lola Vision, базирующаяся в Вашингтоне, округ Колумбия, — один из нескольких стартапов, пытающихся предложить альтернативу технологии Nvidia для запуска ИИ на устройствах. По словам Адесаньи, сейчас многие компании начинают с Nvidia Jetson, линейки компактных вычислительных модулей для запуска ИИ на устройствах, или с моделей ИИ с открытым исходным кодом. Адесанья утверждает, что они «часто ломаются или плохо работают сразу после установки, поэтому команды тратят дни или недели на то, чтобы заставить их работать вообще, а затем еще больше недель на отладку, пока модели не станут пригодными для использования».
«Даже в этом случае, — продолжил он, — энергопотребление часто превышает бюджет периферийных вычислений, или же плата не может обеспечить достаточную вычислительную мощность для средних и больших моделей, которые действительно необходимы продукту для успешной работы. Это приводит к тому, что модели распознавания отстают от целевых объектов или неправильно их считывают». (Периферийные вычисления означают запуск ИИ непосредственно на устройстве, таком как камера или дрон, а не в удаленном центре обработки данных. Модели распознавания — это системы ИИ, которые идентифицируют объекты.)
По данным компании, около десятка корпоративных клиентов подписали письма, выражающие заинтересованность в покупке чипов Lola Vision, как только они станут доступны, и у компании уже есть один подписанный клиент. Она также сотрудничает с SCALE, программой развития кадров в области микроэлектроники, для работы с большим количеством полупроводниковых лабораторий. «Чтобы быстрее получать доход, мы теперь будем лицензировать наше программное обеспечение на существующем оборудовании», — сказал Адесанья. (Иными словами, вместо того, чтобы ждать появления собственных чипов, компания позволит клиентам платить за использование своего программного обеспечения на уже существующих чипах.) Он добавил, что на сегодняшний день компания привлекла в общей сложности чуть более 1 миллиона долларов инвестиций.