So funktioniert der KI-Betrug: Diese künstlich generierten Stimmen klingen wie Familienmitglieder

Künstliche Intelligenz im Alltag

Sogenannte Künstliche Intelligenzen werden schon lang nicht mehr nur in der Industrie oder zum Schreiben von Texten (wie ChatGPT) eingesetzt. Mittlerweile können diese sogar ganze Songs selbstständig produzieren und sogar Kopien von ganz normalen Stimmen erstellen, die kaum von den Originalen zu unterscheiden sind. Das ruft leider auch jetzt schon Betrüger:innen auf den Plan. Hier erfährst du mehr darüber.

Vorsicht, Verbraucherzentrale warnt vor neuer Abzocke bei PayPal! Erfahre hier, wie du dich davor schützen kannst. Kriminelle geben sich derzeit als Mitarbeiter:innen der Sparkasse aus. Hier kannst du nachlesen, wie du die Fake-Anrufe erkennst.

Im Clip: So reagierst du bei Betrugsversuchen richtig

Krasser Fall von KI-Betrug in den USA

Die Amerikanerin Jennifer DeStefanos hat eine Tochter. Briana ist 15 Jahre alt und ist bei einem Skiausflug. An einem Nachmittag klingelt auf einmal das Telefon der Mutter - unbekannter Anrufer. Als sie ran geht, gefriert ihr das Blut in den Adern: "Mama, ich habe Mist gebaut! Mama! Hilf mir!", hört sie ihre Tochter am anderen Ende verzweifelt weinen. 

Dann meldet sich eine zweite - männliche - Stimme, befielt ihrer Tochter sich hinzulegen. "Hören Sie zu. Ich habe Ihre Tochter. Wenn Sie die Polizei oder irgendjemanden rufen, werde ich sie mit Drogen vollpumpen. Ich werde mit ihr machen, was ich will und sie dann in Mexiko absetzen." Im Hintergrund weiterhin Brianas flehende Stimme.

Eine halbe Million Dollar wollte er von DeStefano erpressen - für ihre angebliche Tochter.
Erst als sie in ihrer Verzweiflung mit Bekannten sprach, wurde sie skeptisch. Die Polizei wurde benachrichtigt und nach einem kurzen Anruf bei dem Skiausflug stellte sich heraus: Brianas Stimme wurde von einer künstlichen Intelligenz geklont und für den Betrug an ihrer Mutter missbraucht. Sie selbst war wohlauf bei ihrem Ausflug.

Dieses Gespräch ist komplett mit künstlichen Stimmen generiert worden:

Wie funktioniert der Betrug mit kopierten Stimmen?

Besonders in den USA soll diese Betrugsmasche bereits tausende Menschen um ihr Geld gebracht haben. Die Betrügenden lassen dabei von einer KI die Stimme eines Verwandten, ihrer Opfer generieren. Dafür reichen mittlerweile bereits kurze Videos (z.B. von TikTok oder Instagram) oder Telefonate aus, in dem der oder die Verwandte etwas sagt. Darauf basierend imitiert die KI dann die betreffende Stimme, inklusive Tonlage, Aussprache und Emotion. So kann diese künstliche Stimme am Ende kaum oder gar nicht mehr vom Original unterschieden werden (im Gegensatz zu früheren Versionen solcher KIs, wo sich die Stimmen noch sehr roboterartig angehört haben). Diese Stimme können sie dann in Echtzeit alles sagen lassen, was sie ihnen vorgeben. So rufen die Verbrecher:innen dann bei ihren Opfern an und bringen sie dazu, ihnen Geld zukommen zu lassen - im Glauben, dass sie ihre Verwandten unterstützen.

Rund 11 Millionen Dollar sollen in den USA auf diese Weise bereits erschwindelt worden sein.

So kannst du dich vor dem Betrug via KI schützen

Um dich davor zu schützen, selbst "geklont" zu werden, solltest du bei Anrufen mit unterdrückter oder fremder Nummer zum einen schon aufmerksam werden. Wenn sich auf dein "Hallo" dann nicht gleich jemand meldet, gilt noch mehr Vorsicht! So wollen die Betrüger:innen dich zum Reden bringen. Bleib hier also auf jeden Fall einsilbig, denn schon Sätze, wie "Wer ist denn da? Ich höre Sie nicht." können Gold wert sein, für die Stimmen-KI.

In der Regel kennst du den Anrufer oder die Anruferin vermeintlich - zumindest soll das die falsche Stimme weiß machen. Das ist aber auch dein Vorteil: Wenn dir die Person am anderen Ende irgendwie seltsam vorkommt, sei vorsichtig. Stelle zur Not eine kleine Testfrage, die nur die betreffende ECHTE Person wissen kann. Alternativ kannst du mit einigen Menschen in deinem Umfeld auch bestimmte Codewörter ausmachen, mit denen ihr euch ganz einfach im Verdachtsfall abfragen könnt.

Auch ist Information über die Betrugsmasche sehr wichtig. Warne also am besten deine Liebsten vor, dass es diese Masche gibt und worauf sie achten müssen. Vor allem für ältere Menschen und Medienunerfahrene kann dies sehr hilfreich sein.

Das solltest du bei Betrugsverdacht unbedingt tun

Hast du den Verdacht, gerade mit einem Betrüger oder einer Betrügerin zu sprechen, solltest diese Schritte beachten:

• Hast du den Verdacht, gerade mit einem Betrüger oder einer Betrügerin zu sprechen, solltest du diese Schritte beachten:
• In keinem Fall auf die Forderungen am Telefon eingehen - nicht unter Druck setzen lassen
• Kontaktiere die Person, die dich angeblich angerufen hat unter einer Nummer die du kennst oder auf einem anderen Weg (z.B. Social Media), um abzuklären, dass der Anruf wirklich echt war.
• Kommt dir etwas komisch vor, frage andere Personen um Rat - z.B. deine Familie, Freund:innen, Kolleg:innen.
• Übergib niemals einer fremden Person Geld und checke ggf. die Empfänger-IBAN.
• Hast du den starken Verdacht, es könnte sich tatsächlich um einen Betrug handeln, informiere die Polizei.

Was sind künstliche Intelligenzen eigentlich?

Auch wenn KIs oder auch AIs (vom englischen aritficial intelligence) schon seit Jahren immer mal wieder Gesprächsthema sind, rücken sie immer weiter in unser alltägliches Leben vor. Grundsätzlich versteht man unter einer künstlichen Intelligenz eine Technologie, die es Systemen und Maschinen ermöglicht menschliche "Rechenleistungen" durchzuführen. Das bedeutet sie können menschliches Denken, Lernen, Planen und sogar Kreativität imitieren. Sie nutzen mittlerweile Technologien (wie z.B. Kameras, Wärme- oder Lichtsensoren) selbstständig, um ihre Umwelt wahrzunehmen, zu verarbeiten und so auch ihr Handeln anzupassen. Dabei analysieren sie - ähnlich, wie wir Menschen - fortlaufend den aktuellen Stand und können darauf basierend Entscheidungen treffen bzw. Handlungen durchführen.

News

Aktuelle Warnung der Verbraucherzentrale

Achtung, Betrugsmaschen mit DHL und Co. - So funktionieren die fiesen Maschen!

Es gibt eine aktuelle Betrugsmasche, mit denen Betrüger:innen an persönliche Daten und Geld von Sendungsempfänger:innen kommen.

• 13.05.2024
• 17:00 Uhr

Wo wird künstliche Intelligenz bereits eingesetzt?

Auch wenn es erstmal wie im Film klingt, aber diese Technologie ist längst keine Zukunftsmusik mehr. Schon seit Jahren begegnen wir KIs auch in unserem Alltag immer wieder. In diesen Bereichen ist dir Künstliche Intelligenz sicher schon über den Weg gelaufen (auch wenn du es auf den ersten Blick vielleicht gar nicht mitbekommen hast):

• Suchmaschinen, wie Google: für relevante Suchergebnisse.
• Werbung: personalisierte Empfehlungen.
• Online-Shopping: Optimierung von Produkten, aber auch in der Abwicklung der Käufe und des Versands (Planung von Beständen und Logistik).
• Autos/Verkehr: Für Sensoren, die Gefahren frühzeitig erkennen sollen, intelligente Navigation und (teilweise jetzt schon, aber vor allem in der Zukunft) selbstfahrende Autos. (wie du übrigens den Geruch aus deinem Auto raus bekommst, liest du hier).
• Digitale Assistenten: Alexa, Siri, ChatGPT, der Google Pod. Diese und noch viele Assistenzsysteme mehr sind bereits fester Bestandteil in vielen Haushalten und Smartphones. Und sie alle nutzen künstliche Intelligenz, um uns in unserem Alltag zu unterstützen.
• Intelligente Häuser (Smart Home), Städte und Infrastruktur: intelligente Termostate oder Lampen nutzen KI um Strom zu sparen. In Städten soll die Infrastruktur damit optimiert werden und so Staus und Verkehrsaufkommen verringert werden.
• Internet der Dinge: Staubsauger, Kühlschränke, Uhren usw.
• Landwirtschaft und Industrie: z.B. in Robotern oder intelligenten Bewässerungs- oder Futtersystemen.
• Übersetzungen und Texte: Ob geschrieben oder auch gesprochen - mit künstlicher Intelligenz können Inhalte von einer Sprache automatisiert in eine andere übersetzt werden. Auch Untertitel zu Videos oder Sendungen können so erstellt werden.
• Sicherheit und Desinformation: KIs können anhand von Daten Muster erkennen und Quellen zurückverfolgen, sowie einschätzen, inwiefern diese verlässlich, oder auch gefährlich sind.
• Gesundheit: Mittels intelligenter Wärmebildkameras können kranke Menschen identifiziert werden, oder auch Infektionen in der Lunge angezeigt werden. Während der Coronakrise wurden zudem mittels KI Daten bereitgestellt, die zur Eindämmung der Pandemie dienten.

Ist künstliche Intelligenz nützlich? Inwiefern ist sie gefährlich?

Ganz klar ist: Künstliche Intelligenz wird eine immer größere Rolle spielen und die digitale Transformation, wie es immer so schön heißt, in unserer Gesellschaft maßgeblich vorantreiben.

Aber was bedeutet das genau für uns? Auch für uns ganz normale Menschen hat künstliche Intelligenz maßgebliche Vorteile. Z.B. trägt sie zu einer besseren gesundheitlichen Versorgung bei, mehr Sicherheit im Verkehr, besseren Produkten, nimmt uns gefährliche Arbeitsschritte ab und lässt neue Arbeitsplätze und -felder entstehen.

Auf der anderen Seite bergen eine solch neue Technologie und ihre naturgemäßen "Kinderkrankheiten" auch noch viele Stolperfallen. So kann es z.B. gefährlich werden, wenn wir uns zu sehr auf die KI verlassen und die Informationen, die wir durch sie bekommen (unhinterfragt) als wahr hinnehmen - selbst, wenn diese sehr glaubwürdig aussehen. Zudem kann es zu Diskriminierungen und Wettbewerbsverzerrungen, sowie Betrugsmaschen kommen, wenn eine KI entweder nicht ordnungsgemäß aufgesetzt wird, oder aber unsachgemäß verwendet wird. Wie bei dieser Betrugsmasche.