Компания Pluto Security привлекла 42 миллиона долларов, поскольку искусственный интеллект создает новую головную боль для команд, занимающихся корпоративной безопасностью.

Иллюстрируя темпы внедрения инструментов ИИ на предприятиях, которые порождают подобные опасения, Шахар Бахат, генеральный директор и соучредитель Pluto Security , говорит, что недавно анонсированный инструмент ИИ может появиться в корпоративной среде всего через два часа после его выпуска. И около 60% рисков, которые ее компания выявляет среди своих клиентов, связаны с инструментами, разработанными не разработчиками: по ее словам, крупнейшим источником таких рисков являются финансовые отделы, за ними следуют отделы маркетинга и юриспруденции. Разработчики занимают четвертое место, добавила она.

Инструменты ее стартапа, по всей видимости, обнаружили приложение, созданное финансовым сотрудником компании из списка Fortune 500, для управления информацией о клиентах и ​​оттоком, но приложение осталось доступным из интернета.

Компания Pluto, только что вышедшая из режима скрытой разработки и получившая 42 миллиона долларов финансирования, является последней в новой волне стартапов в сфере безопасности , которые быстро появились , чтобы помочь компаниям устранить эти проблемные пробелы. Все они привлекают крупные инвестиции, основываясь на убеждении, что использование только существующего программного обеспечения для мониторинга и контроля инструментов, коннекторов и использования ИИ — это подход, который не подходит ни к чему хорошему.

Бахат рассказала, что ее стартап начал продажи только в апреле и уже нашел покупателей на свою технологию, которая помогает компаниям получать контекст, проводить анализ рисков, обеспечивать прозрачность и контроль над тем, как их сотрудники используют инструменты искусственного интеллекта. Она сказала, что Pluto начала продажи в апреле и уже превысила 2 миллиона долларов годового дохода от регулярных платежей, имея более 30 корпоративных клиентов, включая Oscar Health, Workato, Sixt и AlphaSense.

Финансирование Pluto включает в себя посевной раунд на сумму 8,5 миллионов долларов, возглавляемый TLV Partners, при участии основателей компании Armis, занимающейся кибербезопасностью. Недавно компания привлекла 34 миллиона долларов в рамках раунда серии А, возглавляемого Jump Capital, при участии Skinos (венчурная фирма соучредителя Check Point Шломо Крамера), Ansa Capital и других частных инвесторов.

Это неплохой результат для молодого стартапа, хотя и не уникальный в эпоху ИИ. Но, возможно, это потому, что масштабы риска не ограничиваются крупными технологическими компаниями, лидирующими в рейтингах внедрения ИИ.

Когда я спросила Бахат, где она видит наибольшие риски, она ответила, что проблемы различаются в зависимости от мышления директора по информационной безопасности и готовности организации внедрять ИИ, но риски все равно существуют.

«В целом, я бы сказала, что не было ни одного проекта по проверке концепции, в котором мы бы не обнаружили вредоносного ПО», — сказала она. «Будь то расширения или навыки — в некоторых из них в то время, когда мы проводили проверку концепции, происходили активные атаки. Что, опять же, для меня с точки зрения продукта просто замечательно. Для компаний же это не очень хорошо».

Основная ставка Pluto заключается в том, что для обеспечения безопасности таких сред потребуются инструменты безопасности, которые будут отслеживать действия агентов ИИ в режиме реального времени, а также следить за тем, что и как сотрудники создают и развертывают.

«Мы переходим от поведения пользователей к поведению агентов», — сказал Бахат.

В соответствии с этой концепцией, программное обеспечение стартапа отслеживает используемые сотрудниками инструменты ИИ, навыки, расширения, серверы MCP и другие компоненты, от которых зависят эти инструменты, а также создаваемые приложения и агенты. Компания заявляет, что может выявлять рискованные компоненты, обнаруживать потенциально опасную активность агентов и обеспечивать соблюдение политик безопасности, не препятствуя сотрудникам в использовании или создании инструментов ИИ.

Для всего этого Pluto подключается к системам безопасности конечных точек и управления устройствами и может развертывать собственные датчики через них или непосредственно на устройствах. Он собирает информацию, включая подсказки, команды, запущенные процессы, разрешения и предыдущую активность пользователей, и использует собственные «легковесные» модели на конечных точках, чтобы помочь оценить, что пытается сделать агент.

Как отметил Бахат, особенно примечательно то, что система Pluto может вмешиваться в работу агента во время его действий. Например, если агент попытается получить права доступа, выходящие за рамки намерений пользователя, система может остановить это действие или добавить в сессию инструкции, которые побудят агента запросить подтверждение.

«Мы можем добавить контекст в сессию, и таким образом я смогу изменить то, как работает агент», — объяснил Бахат.

Стартап также использует необычный подход к поиску клиентов. В апреле он запустил Plutonium — бесплатную платформу, которая позволяет любому проверить риски, связанные с общедоступными навыками ИИ, коннекторами и дополнениями. Также имеется сканер MCP и каталог проверенных компонентов. Бахат утверждает, что тысячи специалистов по безопасности используют Plutonium, и что сообщество вокруг него стало важным источником обратной связи и потенциальных клиентов.

Она сказала, что 70% потенциальных продаж Pluto в настоящее время поступает от потенциальных клиентов, хотя она не уточнила, какая часть из них поступает непосредственно через Plutonium.

Компания Pluto заявила, что планирует инвестировать новый капитал в разработку своего продукта, расширение исследований в области безопасности и укрепление своего присутствия в США. В настоящее время в США и Израиле работают 40 сотрудников.