Die Bedrohung durch Deepfakes nimmt zu, da die KI-Tools zu ihrer Erstellung weitgehend zugänglich werden. Laut dem Verifizierungsanbieter Sumsub stieg die Anzahl der Deepfakes weltweit von 2023 bis 2024 um 245 %, ein Anstieg, der teilweise durch bevorstehende Wahlzyklen ausgelöst wurde. Es betrifft auch den Unternehmenssektor; Eine kürzlich durchgeführte Umfrage von Business.com ergab, dass 10 % der Unternehmen mit durch Deepfakes unterstütztem Betrug wie geklonten Stimmen konfrontiert waren.
Der Trend war nicht überraschend ein Glücksfall für Unternehmen, die Tools zum Schutz vor Deepfakes und Technologien zur Herstellung von Deepfakes vermarkten. Eines dieser Unternehmen, Pindrop, gab am Mittwoch bekannt, dass es einen 100 Millionen US-Dollar langen Kredit über fünf Jahre von Hercules Capital erhalten hat, den CEO Vijay Balasubramaniyan für die Produktenwicklung und Einstellung vorgesehen hat.
Mit den Fortschritten in der generativen KI ist die Sprachklonung zu einem mächtigen Werkzeug geworden, sagte Balasubramaniyan gegenüber TechCrunch. Die Deepfake-Erkennung mit KI-Erkennungstechnologien wird nun von jedem Callcenter benötigt, um einen Schritt voraus zu sein Betrüger.
Pindrop entwickelt Deepfake-bekämpfende und Multi-Faktor-Authentifizierungsprodukte für Unternehmen in den Bereichen Bankwesen, Finanzwesen und verwandte Branchen. Das Unternehmen behauptet, dass seine Tools z. Identifizierung von Anrufern im Kontaktcenter, beispielsweise - und mit höherer Genauigkeit als konkurrierende Lösungen.
Pindrop nutzt einen Datensatz von über 20 Millionen Äußerungen, sowohl synthetische als auch echte, um die KI-Modelle auf das Unterscheiden zwischen echten menschlichen Stimmen und synthetisch erzeugten zu trainieren, sagte Balasubramaniyan. Wir haben auch über 330 Text-to-Speech (TTS)-Modelle trainiert, um bei der Identifizierung von zur Deepfake-Erstellung verwendeten TTS-Modellen zu helfen.
Voreingenommenheit ist ein häufiges Problem bei Deepfake-Erkennungsmodellen. Viele Audio-Modelle neigen dazu, voreingenommen gegenüber der Erkennung von westlichen, amerikanischen Stimmen zu sein und funktionieren schlecht mit verschiedenen Akzenten und Dialekten, was dazu führen könnte, dass ein Detektor eine echte Stimme als Deepfake klassifiziert.
Es ist umstritten, ob synthetische Trainingsdaten - Trainingsdaten, die von KI-Modellen selbst generiert werden - die Vorurteile mildern oder verschärfen. ThBalasubramaniyan denkt ersteres und behauptet, dass sich die Sprachauthentifizierungsprodukte von Pindrop auf die „akustischen und spektral-zeitlichen Merkmale“ von Stimmen konzentrieren, anstelle von Aussprache oder Sprache.
AI-basierte Spracherkennungssysteme neigen dazu, voreingenommene Ergebnisse gegenüber Ton-, Akzent-, Mundart- und Dialektunterschieden zu zeigen, die rassische Implikationen haben könnten, sagte Balasubramaniyan. Diese Vorurteile stammen von der Homogenität der Daten, die verwendet werden, um die Systeme zu trainieren, die möglicherweise keine Repräsentation verschiedener ethnischer, rassischer, geschlechtsspezifischer oder anderer Unterschiede aufweisen und somit die Vielfalt der Daten beschränken, mit denen die KI-Systeme trainiert werden.
Ungeachtet der Wirksamkeit seiner Produkte hat Pindrop seit seiner Gründung im Jahr 2011 erhebliche Fortschritte gemacht, als Balasubramaniyan, ein ehemaliger Googler, das Unternehmen mit dem früheren Forschungsleiter von Barracuda Networks, Paul Judge, und Mustaque Ahamad, gründete. Pindrop hat bisher 234,77 Millionen US-Dollar Risikokapital von Investoren wie Vitruvian Partners, CapitalG, IVP und Andreessen Horowitz eingesammelt.
Als gefragt wurde, warum sich Pindrop dieses Mal für Schulden statt für Eigenkapital entschieden hat, sagte Balasubramaniyan, dass es eine „attraktive Option“ war, um „effizient Wachstumskapital zu beschaffen“, ohne das Eigenkapital von Pindrop zu verwässern. (Das ist eine gängige Strategie.)
Die Einnahmen aus dem Kredit werden es Pindrop ermöglichen, seine Technologie in neue Branchen zu bringen, fügte Balasubramaniyan hinzu, wie Gesundheitswesen, Einzelhandel, Medien und Reisen.
Mit dem Aufkommen von generativer KI sehen wir weltweit eine massive Nachfrage nach unseren Lösungen und planen, in Ländern zu expandieren, die aufgrund von Deepfakes erheblichen Bedrohungen ausgesetzt sind, sagte Balasubramaniyan. Pindrop ist positioniert, um Unternehmen dabei zu helfen, sich und ihre Verbraucher vor steigenden Betrugs- und Deepfake-Bedrohungen mit Lösungen zur Betrugsprävention, Authentifizierung und Liveliness zu schützen.
