После того как её деда обманул искусственный голос, эта основательница компании немедленно принялась за дело.

«Меня больше всего поразило не то, что это были деньги, — говорит Падманабхуни об этом инциденте. — Меня поразило то, что у него не было возможности сообщить мне об этом».

Это было примерно два года назад. Сегодня, по ее словам, компания DetectifAI , базирующаяся в Сан-Франциско и основанная ею, стремится к тому, чтобы других не смогли обмануть таким же образом.

Это большая и растущая проблема, и рынок ей соответствует. По данным ФБР, в прошлом году американцы потеряли около 900 миллионов долларов из-за мошенничества, осуществляемого с помощью искусственного интеллекта, что на 24% больше, чем в 2024 году. Люди в возрасте 60 лет и старше потеряли вдвое больше, чем люди в возрасте от 50 до 59 лет.

В сфере распознавания голоса с помощью технологии Deepfake существует множество конкурентов, среди которых такие компании, как Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance (которая также принадлежит Microsoft). Однако, по словам Падманабхуни, современные продукты для распознавания работают в облаке на удаленных серверах, поэтому производители телефонов не могут встраивать их непосредственно в свои устройства, что практически исключает возможность защиты для жертвы.

Вместо того чтобы, как это делают некоторые компании, уменьшать большие облачные модели для размещения на телефоне, DetectifAI утверждает, что с самого начала разрабатывает компактные модели искусственного интеллекта, достаточно маленькие, чтобы работать внутри операционной системы смартфона. Цель состоит в том, чтобы мгновенно определять, является ли голос сгенерированным искусственным интеллектом во время звонков, голосовых сообщений и других аудиозаписей, не покидая при этом само устройство.

Компания DetectifAI в первую очередь продает свои программные инструменты производителям телефонов, лицензируя их таким образом, чтобы обнаружение угроз могло быть встроенной функцией операционной системы телефона. Падманабхуни приводит аналогию с ролью AT&T в первоначальном запуске iPhone, когда эксклюзивное соглашение с оператором выделило его среди конкурентов: по ее словам, тот, кто первым начнет поставлять DetectifAI, получит преимущество перед конкурентами.

В основе продукта лежит комплект разработки программного обеспечения (SDK) от DetectifAI — пакет кода, который другие компании могут интегрировать в свои продукты и лицензировать через существующие каналы. Падманабхуни говорит, что дополнительный источник дохода будет поступать от лицензирования технологии предприятиям и фирмам, занимающимся предотвращением мошенничества.

Между тем, по словам Падманабхуни, стартап уже получил начальную выручку и обрабатывает более 100 000 звонков в месяц для финансовых учреждений в Индии. Эти звонки совершаются голосовыми агентами на основе искусственного интеллекта, которые занимаются взысканием долгов и отслеживанием кредитных документов, с использованием технологии обнаружения дипфейков и проверки говорящего (подтверждение того, что звонящий действительно тот, за кого себя выдает) при каждом звонке. Падманабхуни отказался назвать имена клиентов, сославшись на соглашения о конфиденциальности.

Падманабхуни говорит, что начала работать в области машинного обучения в 12 лет, а позже изучала киберфизические системы (технологии, связывающие программное обеспечение с физическим оборудованием) в Манипальском технологическом институте в Индии, где, по ее словам, стала самым молодым руководителем команды, которая, по ее описанию, создала первый в Индии дивизион беспилотных гоночных автомобилей в Formula Student, международном студенческом инженерном конкурсе.

Компания DetectifAI на данный момент привлекла небольшое начальное финансирование от инвесторов Джоша Констина и Манохара Камата, руководителя консалтинговой фирмы KM Growth.