Schlagwort: Betrug

  • So entlarvt eine KI zur Gesichtserkennung massenhafte Betrugsversuche

    So entlarvt eine KI zur Gesichtserkennung massenhafte Betrugsversuche

    Seit eini­gen Wochen ver­fol­gen mich asia­ti­sche Schön­hei­ten. Nicht die­se brüs­ken, dürf­tig beklei­de­ten Damen, die der Spam­fil­ter ohne­hin aus­sor­tiert. Die ver­meint­li­chen Damen sind stets züch­tig geklei­det und zumeist an die 20 Jah­re jün­ger. Sie schrei­ben mir auf Insta­gram und auf Whats­App per direk­ter Nach­richt sub­ti­le Bot­schaf­ten. „War­um wirst Du mir dau­ernd hier auf Ins­ta emp­foh­len?“, fragt eine Amra auf Eng­lisch. „Hal­lo, bist Du der Typ aus dem Busi­ness Mee­ting in Tam­pa?“, erkun­digt sich eine Cata­li­na aus Flo­ri­da. „Ich habe Dein Land­schafts­fo­to gese­hen, tol­les Bild!“, fin­det eine Lee aus London.

    Nun wer­den mei­ne direk­ten Nach­rich­ten auf Insta­gram in einem Ord­ner „Nach­rich­ten­an­fra­gen“ abge­legt, den ich sel­ten auf­su­che. Benach­rich­ti­gun­gen dazu sind aus, so herrsch­te lan­ge Zeit Ruhe im Kar­ton. Bei Whats­App wer­den sol­che Bot­schaf­ten nor­ma­ler­wei­se von mir gemel­det und die Absen­der blockiert.

    Doch neu­gie­rig, wie ich bin, bin ich dann doch mal auf die Anfra­gen auf Insta­gram zum Schein ein­ge­gan­gen. Wor­auf war die Masche aus?

    Quatschen mit Amra, Catalina und Lee

    So quatsch­te ich über Tage mit Amra, Cata­li­na und Lee, schnell kamen ein paar wei­te­re ver­meint­li­che Damen hin­zu, die mir zuletzt ihren Kon­takt ange­bo­ten hat­ten. Ich ent­deck­te wun­der­ba­re Lofts in Man­hat­tan und Restau­rants in Malay­sia, foto­gra­fiert wur­den edle Mahl­zei­ten und noch öfter das eige­ne Spiegelbild.

    Man ver­liert übri­gens schnell den Über­blick, wer von denen wel­chen Beruf hat und ob man schon gefragt hat, aus wel­cher Stadt sie kommt. Fragt man in so einem Chat ein zwei­tes Mal nach der Her­kunft, so deu­tet der Ton­fall der Ant­wort auf Ent­rüs­tung wegen des Man­gels an Auf­merk­sam­keit, für euch ausprobiert.

    Erstaun­li­cher­wei­se ver­füg­ten alle angeb­li­chen Damen aus­weis­lich ihrer Fotos über einen gewis­sen Reich­tum. Davon zeug­ten Bil­der tol­len Essens in teu­ren Restau­rants, Guc­ci- und Dior-Hand­ta­schen und ein Besuch auf der Fer­ra­ri-Mes­se in Abu Dha­bi. Sel­ten zeig­ten die Damen viel Haut, das wäre zu pro­fan. Höchs­tens mal etwas Fit­ness­stu­dio. Und so gut wie immer reagier­ten die Damen fast belei­digt, wenn man nicht sofort auf eine Nach­richt ant­wor­te­te, Zeit­zo­nen hin oder her.

    Schneller Wechsel von Instagram auf WhatsApp

    Erst ver­mu­te­te ich künst­li­che Intel­li­genz im Ein­satz – als ich bemerk­te, dass die Ant­wor­ten mei­ne Recht­schreib­feh­ler imi­tier­ten. Dann ver­quatsch­te sich eine der Angrei­fe­rin­nen und frag­te über­mü­tig, was ich denn eigent­lich dau­ernd mit ihren Freun­din­nen zu bespre­chen hät­te? Häu­fig woll­ten die Damen schnell auf Whats­App wech­seln, das wäre ja irgend­wie per­sön­li­cher. Nur auf mei­ne lis­ti­ge Fra­ge, ob wir mal tele­fo­nie­ren möch­ten, reagier­te kei­ne der Befrag­ten wie gewünscht.

    Zwei­mal lenk­ten die Gesprächs­part­ne­rin­nen das The­ma auf Kryp­to­wäh­run­gen, die eine frag­te rund­her­aus nach einer „klei­nen“ Inves­ti­ti­on von 500 Dol­lar, ihr Onkel sei Ban­ker und bekom­me häu­fi­ger mal einen guten Tipp; Sie wis­sen schon, der Short-Sel­ling-Han­del. Da glaub­te ich end­lich zu wis­sen, wor­auf die Angrei­fe­rin­nen letzt­lich aus waren. Doch erstaun­li­cher­wei­se waren die ande­ren Damen nicht an mei­nen Kryp­to­wäh­rungs­kennt­nis­sen inter­es­siert, als nun ich die Gesprä­che zum Test dar­auf zu len­ken versuchte.

    Alle zwölf Damen waren Fake

    Den wah­ren Grund für die mas­sen­haf­ten Kon­takt­an­bah­nun­gen habe ich am Ende nicht her­aus­ge­fun­den. Nur dass alle zwölf Damen Fake-Pro­fi­le waren und sind, das hat mir eine Maschi­ne der künst­li­chen Intel­li­genz (KI) bewie­sen: Bei face​check​.id kann man ein Por­trät einer Per­son hoch­la­den, der Dienst fin­det dann per Gesichts­er­ken­nung ähn­lich aus­se­hen­de Social-Media-Pro­fi­le dazu. Gesucht wird dabei nicht nach der iden­ti­schen Bild­da­tei wie bei Goog­le Bil­der, son­dern nach bio­me­tri­schen Merk­ma­len, die die KI in einer Daten­bank gespei­chert hat.

    Und sie­he da: Plötz­lich heißt die Guc­ci-Cata­li­na auch mal Jini und wohnt statt in Flo­ri­da in Los Ange­les; mit dem glei­chen Gesicht gibt es 17 Lin­ke­dIn- und zehn Twit­ter-Accounts mit unter­schied­li­chen Namen. Die Kryp­to­wäh­rungs-Amra ist mit dem­sel­ben Bild auf Twit­ter mal als Phyl­lis, Luca und Huang-Deng unter­wegs, gilt auch dort aus­weis­lich ihrer Posts als Fach­frau für Kryp­to­koh­le. Nur Kom­men­ta­re von Freun­din­nen oder Freun­den fin­det man dann sel­ten, Schön­heit macht wohl ein­sam. Den pro­mi­nen­tes­ten Chat erleb­te ich mit Erin, die auch schon mal Celia heißt und namens einer Mode­mar­ke aus Korea mit einem Account 103.000 Fol­lower zählt.

    Vertrauen erschleichen, Kompromat erlangen

    Was hat es letzt­lich mit sol­chem Scam, Betrug also, auf sich? Ich kann nur ver­mu­ten: Es geht dar­um, Ver­trau­en auf­zu­bau­en und zu erschlei­chen. Mög­li­cher­wei­se woll­te jemand irgend­wann kom­pro­mit­tie­ren­de Ant­wor­ten von mir pro­vo­zie­ren, um sie anschlie­ßend für eine Erpres­sung zu ver­wen­den. Der gesun­de Men­schen­ver­stand kann bei so viel Schön­hei­ten schließ­lich schon mal ver­lo­ren gehen.

    Dass es sich um eine kon­zer­tier­te Akti­on han­del­te, beweist ein ande­rer Umstand: Als ich zwei der Damen mit den gefun­de­nen wei­te­ren Social-Media-Pro­fi­len kon­fron­tier­te, reagier­te die eine zickig (oder bockig?), „Ich bin ich“, und die ande­re blo­ckier­te mich sofort. Fort­an reagier­te­für eine Wei­le die gan­ze Ban­de nicht mehr. Offen­bar waren die fal­schen Freun­din­nen auch unter­ein­an­der gut vernetzt.

    Persönlichkeitsrechte?

    Ob der Dienst Face​check​.id in Euro­pa zuläs­sig ist oder nach Ver­ab­schie­dung des euro­päi­schen KI-Acts noch ist, steht auf einem ande­ren Blatt. „Nur für Lern­zwe­cke“ schreibt der Betrei­ber Sen­ti­ent Labs aus Indo­ne­si­en. Man rühm­te sich zuletzt, 400.000 Fotos und Pro­fi­le von Hei­rats­schwind­lern und Lie­bes­be­trü­gern erfasst zu haben. Ins­ge­samt soll die Maschi­ne 550 Mil­lio­nen Bil­der ken­nen. Wie das mit dem Per­sön­lich­keits­recht oder dem Ver­wer­tungs­recht von Fotos ein­her­geht, ist schlei­er­haft. Und war­um es von Unter­neh­mens­chef Lee Chong offen­bar kein öffent­li­ches Bild gibt, wun­dert auch ein wenig. Eine Home­page der Fir­ma fand ich nicht.

    Eine weit grö­ße­re Gesich­ter­da­ten­bank namens Cle­ar­view AI mit 30 Mil­li­ar­den Bil­dern wur­de laut einem Bericht der „New York Times“ mitt­ler­wei­le in meh­re­ren euro­päi­schen Län­dern sowie in Kana­da und Aus­tra­li­en ver­bo­ten. Öffent­lich zugäng­lich ist der Dienst nicht, Straf­ver­fol­gungs­be­hör­den in den USA nut­zen ihn – unter ande­rem auch in Däne­mark, Finn­land und Frank­reich. Auch Inter­pol soll den Dienst 320-mal ein­ge­setzt haben. In Deutsch­land hat der Ham­bur­ger Daten­schutz­be­auf­trag­te den Dienst als Ver­stoß gegen die Daten­schutz­grund­ver­ord­nung ein­ge­schätzt. Ita­li­en ver­häng­te eine Geld­stra­ße von 20 Mil­lio­nen Euro. Zuletzt mach­te das Unter­neh­men mit einem Ein­satz im rus­si­schen Krieg in der Ukrai­ne von sich reden: Ukrai­ni­sche Mili­tärs iden­ti­fi­zier­ten damit Tote und rus­si­sche Überläufer.

    Gleiche Bilder, gleicher Film

    Gera­de hat wie­der eine unbe­kann­te Lin­da elf mei­ner Bil­der auf Insta­gram durch­ge­likt, es geht schon wie­der los. Ihre eige­nen Fotos deu­ten auf ein sor­gen­frei­es Leben. Komisch nur, die angeb­li­che Dame ähnelt laut Gesich­ter­ken­nungs-KI zum Ver­wech­seln dem Model Vero­ni­ka Cere­da aus Kiew. Und merk­wür­dig – bei der pro­mi­nen­te­ren, augen­schein­lich authen­ti­schen Dame mit Zehn­tau­sen­den Fans taucht das glei­che Bild auf einem Schim­mel rei­tend durchs Was­ser auf. Eine Auf­nah­me von Frau Sere­da aus Dubai im mint­grü­nen Kos­tüm mit wei­ßer Hand­ta­sche kann Lin­da eben­so vor­wei­sen. Und sogar das Video von ihr unter Was­ser mit blau­en Flos­sen gibt es in bei­den Profilen.

    Zufäl­le gibt’s.

    Wenn Sie die Fake-Ent­lar­vung ein­mal selbst aus­pro­bie­ren möch­ten: Ich fol­ge nun bis auf Wei­te­res meh­re­ren die­ser Fake-Damen auf Ins­ta. Mei­ne Fol­lo­wings sind öffent­lich. Und wun­dern Sie sich nicht über man­che Fol­lo­wings, die anders als die hier genann­ten Kon­ten nie­de­re Instink­te anspre­chen. Eine gewis­se Sarah Jor­dan ist ganz offen ein Fake mit sehr frei­zü­gi­gen Bil­dern. Der Account ist kom­plett KI-gene­riert. „Made in Australia“.

    Das Kon­to zählt 377.000 Follower.

    • Zum Schutz der rea­len Per­so­nen, deren Bil­der hier offen­sicht­lich für Betrugs­ver­su­che miss­braucht wer­den, habe ich in die­sem Bei­trag auf Screen­shots der von face​check​.id gefun­de­nen Fake-Pro­fi­le ver­zich­tet; statt­des­sen lud ich dort ein Bild von mir selbst hoch und ließ die Maschi­ne nach mei­nem Gesicht suchen.