После того как её деда обманул искусственный голос, эта основательница компании немедленно принялась за дело.
Когда раздался звонок, дедушка Тарини Падманабхуни подумал, что разговаривает со своим братом. Голос на другом конце провода сказал, что его похитили и что единственный способ вернуть его — заплатить выкуп. Дедушка заплатил, но позже узнал, что его брат был в совершенно другом месте и ничего об этом не знал. Как выяснилось, голос был дипфейком, имитацией, созданной искусственным интеллектом.
«Меня больше всего поразило не то, что это были деньги, — говорит Падманабхуни об этом инциденте. — Меня поразило то, что у него не было возможности сообщить мне об этом».
Это было примерно два года назад. Сегодня, по ее словам, компания DetectifAI , базирующаяся в Сан-Франциско и основанная ею, стремится к тому, чтобы других не смогли обмануть таким же образом.
Это большая и растущая проблема, и рынок ей соответствует. По данным ФБР, в прошлом году американцы потеряли около 900 миллионов долларов из-за мошенничества, осуществляемого с помощью искусственного интеллекта, что на 24% больше, чем в 2024 году. Люди в возрасте 60 лет и старше потеряли вдвое больше, чем люди в возрасте от 50 до 59 лет.
В сфере распознавания голоса с помощью технологии Deepfake существует множество конкурентов, среди которых такие компании, как Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance (которая также принадлежит Microsoft). Однако, по словам Падманабхуни, современные продукты для распознавания работают в облаке на удаленных серверах, поэтому производители телефонов не могут встраивать их непосредственно в свои устройства, что практически исключает возможность защиты для жертвы.
Вместо того чтобы, как это делают некоторые компании, уменьшать большие облачные модели для размещения на телефоне, DetectifAI утверждает, что с самого начала разрабатывает компактные модели искусственного интеллекта, достаточно маленькие, чтобы работать внутри операционной системы смартфона. Цель состоит в том, чтобы мгновенно определять, является ли голос сгенерированным искусственным интеллектом во время звонков, голосовых сообщений и других аудиозаписей, не покидая при этом само устройство.
Компания DetectifAI в первую очередь продает свои программные инструменты производителям телефонов, лицензируя их таким образом, чтобы обнаружение угроз могло быть встроенной функцией операционной системы телефона. Падманабхуни приводит аналогию с ролью AT&T в первоначальном запуске iPhone, когда эксклюзивное соглашение с оператором выделило его среди конкурентов: по ее словам, тот, кто первым начнет поставлять DetectifAI, получит преимущество перед конкурентами.
В основе продукта лежит комплект разработки программного обеспечения (SDK) от DetectifAI — пакет кода, который другие компании могут интегрировать в свои продукты и лицензировать через существующие каналы. Падманабхуни говорит, что дополнительный источник дохода будет поступать от лицензирования технологии предприятиям и фирмам, занимающимся предотвращением мошенничества.
Между тем, по словам Падманабхуни, стартап уже получил начальную выручку и обрабатывает более 100 000 звонков в месяц для финансовых учреждений в Индии. Эти звонки совершаются голосовыми агентами на основе искусственного интеллекта, которые занимаются взысканием долгов и отслеживанием кредитных документов, с использованием технологии обнаружения дипфейков и проверки говорящего (подтверждение того, что звонящий действительно тот, за кого себя выдает) при каждом звонке. Падманабхуни отказался назвать имена клиентов, сославшись на соглашения о конфиденциальности.
Падманабхуни говорит, что начала работать в области машинного обучения в 12 лет, а позже изучала киберфизические системы (технологии, связывающие программное обеспечение с физическим оборудованием) в Манипальском технологическом институте в Индии, где, по ее словам, стала самым молодым руководителем команды, которая, по ее описанию, создала первый в Индии дивизион беспилотных гоночных автомобилей в Formula Student, международном студенческом инженерном конкурсе.
Компания DetectifAI на данный момент привлекла небольшое начальное финансирование от инвесторов Джоша Констина и Манохара Камата, руководителя консалтинговой фирмы KM Growth.