Perfider Enkeltrick mit durch KI gefälschter Stimme

Wie oft ärgere ich mich über die Spracherkennung auf meinem iPhone, wenn ich einen Text diktiere und dabei Unsinn raus kommt? Ziemlich häufig. Fast so häufig wie über die Autokorrektur … Die Funktionalität finde ich sehr komfortabel, wenn es denn funktioniert. So ähnlich verhält es sich auch mit den Befehlen, die ich Siri gebe. Meine Frau versteht mich nicht, Siri aber auch noch nicht. Doch offenbar sind Siri, Alexa und ihre Kolleginnen im Alltag angekommen. Laut einer Bitkom-Befragung nutzen inzwischen deutlich mehr als die Hälfte (57 Prozent) der Internetnutzerinnen und -nutzer zumindest hin und wieder digitale Sprachsteuerung. Bei den Jüngeren sind es sogar 74 Prozent.

Weder meine Frau noch Siri verstehen mich

Nein, ich lamentiere diesmal nicht über die Wanzen, die wir uns ins Wohn- und Schlafzimmer oder ins Auto holen. Wir haben ja alle nichts zu verbergen, nicht wahr. Ich möchte stattdessen auf eine weitere perfide Methode hinweisen, wie Sprache manipulativ und kriminell genutzt wird. Bisher mussten wir beispielsweise unter den Stimmen wählen, die uns Apple bei Siri zur Verfügung stellt. Das soll sich bald ändern, denn Apple soll laut heise online demnächst ermöglichen, ein KI-Modell der eigenen Stimme zu erstellen – direkt auf iPhone, iPad und Mac. Und natürlich werden auch die anderen Anbieter mit so etwas nachziehen und es gibt ja auch schon genug Werkzeuge, die man auf die eigen Stimme trainieren kann. Mal in dieses knapp dreiminütigen Selbstversuch von Nils Dampz rein hören, der für Bayern 2 seine Stimme mal probeweise hat klonen lassen.

Gefährlich: Enkeltrick mit gefälschter Stimme

Nein, das ist noch nicht perfide. Perfide ist es, wenn andere Deine oder meine Stimme nutzen, um Betrügereien durchzuführen. Der Enkeltrick ist. vielen schon bekannt. Mama oder Oma bekommen einen Anruf vom Enkelchen, der scheinbar in Not geraten um Hilfe, sprich Geld bittet. Bisher ist der Trick oft daran gescheitert, dass Mama natürlich erkannt hat, dass die Stimme nicht die des Enkels oder der Tochter ist – genauso geschehen mit und bei meiner Mutter.

Doch jetzt nutzen die Betrüger eine Methode, die sich „Voice Cloning“ nennt. Mit Hilfe Künstlicher Intelligenz (KI) werden Stimmen vertrauter Personen geklont und imitiert. Und schon ist die Gefahr ungleich größer, dass jemand auf einen solchen Betrugsversuch herein fällt, wie hier Chip berichtet. Doch wie soll dieses Cloning gehen? Woher kennen die Betrüger meine Stimme? In meinem persönlichen Fall ist das einfach. Sie nehmen sich beispielsweise unsere Podcast-Serie #9vor9 oder andere Videos von mir vor und schon haben sie genügend Trainingsmaterial.

Doch ich bin hier kein Einzelfall: Viele gerade auch jüngere Menschen habe Videos auf TikTok, Instagram oder YouTube. Die sozialen Medien sind eine willkommene Quelle, aus denen die Angreifer schöpfen können. Der WDR beschreibt hier nochmals das Vorgehen. Experten sprechen auch von „Deepfake-Audios“ und „Virtual Kidnapping“. Der Autor ​Jürgen Roth schreibt in der FAZ (hinter der Paywall) über seine beklemmenden Erfahrungen.

KI erleichtert Voice Cloning – Zahl der Betrügereien werden steigen

Nur einzelne Fälle von Betrügereien? Wohl nicht. Im Rahmen einer Befragung hat McAfee 7.000 Personen, darunter auch 1.000 Menschen aus Deutschland, befragt. 22 Prozent gaben dabei an, dass sie oder Bekannte schon einmal einen Audio-Betrug mit KI erlebt hätten. Weltweit sind es 25 Prozent, so die Tagesschau. Und die Anzahl der Betrugsversuche wird ganz sicher steigen.

Doch was kann man tun? Seine Stimme nicht mehr auf sozialen Kanälen verwenden. Hmm, vielleicht heutzutage nicht die optimale Lösung. Realistischer ist, „einfach“ Vorsicht walten zu lassen und misstrauisch zu sein. Dran denken, es gibt. nur einen Rudi Völler, einen Sohn oder eine Enkelin. Versuchen, Enkel oder Tochter auf deren Nummer zurückzurufen oder aber generell eine Codewort vereinbart haben, können Lösungsansätze sein, um die Echtheit solcher Betrugsversuche zu prüfen. Und immer wieder über solche Bedrohungsversuche aufklären, so wie es dieser Beitrag zu tun versucht.

Und was gab es sonst noch in der Woche?

Da das Thema so wichtig ist, nimmt es auch die zentrale Rolle der Wochenschau ein. Nur noch einige kurze Hinweise und Links. Meine ehemaliger Arbeitgeber IBM beordert seine Mitarbeiterinnen und Mitarbeiter zurück ins Büro. Diejenigen, die in einem Umkreis von 80 Kilometern um ein Büro wohnen, sollen mindestens drei Tage pro Woche an ihrem Schreibtisch sitzen, schreibt t3n. Der Konzern aus Armonk ist nicht der einzige, der das tut. Daraufhin meinte der Lars, dass wir doch noch einmal bei #9vor9 über das HomeOffice sprechen sollten.

heise online berichtet über Lobbymacht der Digitalkonzerne in Brüssel. Dies kritisch zu beobachten, ist angesichts der aktuellen Gesetzesvorhaben und Gesetze und deren Durchführung dringend notwendig. Der Digital Services Act (DSA) und der Digital Markets Act (DMA) müssen umgesetzt werden, der AI Act ist in der Mache. Und wer ist von all dem betroffen.

Und nicht vergessen: Die deutschen Basketballer sind Weltmeister. Guten Start in die neue Woche!

Die Titelgrafik wurde in einer Kombination des Image Creators von Bing und Dall-E generiert mit drei Prompts erstellt. Nur Dall-E erlaubt momentan, die Größe eines Bildes so zu erweitern, dass eben ein Banner heraus kommt. Der Image Creator hat den zentralen Teil zu Voice Cloning generiert. Dall-E die besorgte Oma sowie den Cyberkriminellen.