Son grand-père arnaqué par une deepfake vocale : elle crée DetectifAI

Y'a deux ans, le grand-père de Tarini Padmanabhuni reçoit un coup de fil : son frère est soi-disant kidnappé, il faut payer une rançon direct. Sauf que c'était une voix clonée par IA, un deepfake vocal parfaitement imité, et le frère n'avait jamais été enlevé. Le pire, c'est qu'il n'avait aucun moyen de savoir que c'était faux sur le coup.

Photo : TechCrunch (AI)

Ce genre d'arnaque, c'est plus un cas isolé : rien qu'aux États-Unis, le FBI estime que les gens ont perdu près de 900 millions de dollars à cause de scams basés sur l'IA l'année dernière, et les plus de 60 ans sont les plus touchés. Face à ça, Padmanabhuni a fondé DetectifAI, une startup basée à San Francisco qui veut détecter les voix truquées avant qu'elles ne fassent des dégâts.

La différence avec la concurrence (Reality Defender, Pindrop, Resemble AI ou encore Nuance de Microsoft), c'est que ces boîtes tournent surtout dans le cloud. DetectifAI, elle, a conçu ses modèles d'IA pour qu'ils soient assez légers pour tourner directement dans le système d'exploitation du smartphone, sans envoyer l'audio ailleurs. Résultat : un verdict instantané pendant un appel ou un message vocal, sans latence ni fuite de données.

La startup vise d'abord les fabricants de téléphones pour intégrer sa techno en natif, mais elle a déjà des clients concrets : elle traite plus de 100 000 appels par mois pour des banques en Inde, où des agents vocaux IA gèrent recouvrements de dettes et suivis de dossiers de prêts, avec vérification de l'identité de l'appelant à chaque fois. DetectifAI fait aussi partie des startups sélectionnées pour le concours Startup Battlefield à TechCrunch Disrupt, mi-octobre à San Francisco.