Med kunstig intelligens kan man klone stemmer fra lydoptagelser, lave deepfakes fra billeder og video og kopiere tone og stil på tekster fra myndigheder, virksomheder eller privatpersoner. Det betyder, at svindelnumre bliver langt sværere at gennemskue end hidtil for den enkelte dansker.

Har du hørt om vishing, deepfakes, AI-stemmekloning eller spoofing? Begreberne referer til forskellige metoder, som svindlere kan bruge til at få fingrene i personlig eller økonomisk information fra uvidende ofre.

Hos Købstædernes Forsikring har de taget en temperaturmåling blandt danskerne, og her svarer seks ud af ti danskerne, at de har oplevet at være udsat for svindel ved køb og salg på nettet inden for de sidste tre måneder. Og med nem adgang til kunstig intelligens kan svindelforsøgene gøres langt sværere at gennemskue, ligesom teknologien åbner dørene til endnu flere måder, svindlerne kan snyde sig til adgang.

Derfor advarer flere myndigheder forbrugerne om, at AI-genereret snyd er en øget risiko. Fx advarer ENISA (Den Europæiske Unions Agentur for Cybersikkerhed) om, at brug af kunstig intelligens kan betyde hyppigere og mere overbevisende bedrageriforsøg. Tenerity, der rådgiver og hjælper kunder ved identitetstyveri og misbrug af personlige oplysninger, er partner med Købstædernes Forsikring, hvor forsikringskunderne modtager ekspertrådgivning, hvis de er udsat for svindel. Selskabet nikker til et øget risikobillede:

– Vi ved, at svindlere og hackere ofte tager ny teknologi til sig som nogle af de første i forsøget på at gøre deres angreb mere vellykkede. Med hjælp fra kunstig intelligens er det blevet enklere at lave falske emails, sms-beskeder, websider eller falske opslag / annoncer på sociale medier, som til forveksling ligner den ægte vare fra virksomheder, myndigheder eller privatpersoner. Derfor bliver det forventeligt kun sværere at gennemskue mulige svindelforsøg i fremtiden, fortæller Marketing Manager Pernille Engestoft fra Tenerity.

Social manipulation breder sig i Norden

Social engineering (på dansk social manipulation) er en svindelmetode med medfart i Norden. Bedrageriforsøget starter typisk gennem en henvendelse fra en svindler, som udgiver sig for at være en naturlig autoritet som fx en bankrådgiver, politibetjent, en kendt person, familie eller lignende, hvor svindleren vil forsøge at misbruge offerets tillid til at franarre personoplysninger.

Brugen af kunstig intelligens kan gøre svindel igennem social manipulation mere virkelighedstro. I medierne har vi for nyligt set TV-værten Ditte Haue blive misbrugt i en AI-genereret deepfake video på sociale medier til at lokke folk til at downloade en falsk app. ID-sikkerhedsselskabet Tenerity har håndteret én sag i Norge, hvor svindleren udgav sig for at være en nær relation. Det kunne svindleren gøre, fordi kunstig intelligens hjalp svindleren til at lyde præcis som den nære relation, vedkommende udgav sig for. Og værktøjerne er blevet så avancerede, at mange vil have svært ved at høre forskel. Selvom Tenerity ikke har oplevet svindeltilfælde med deepfakes eller AI-stemmekloning i sager om social manipulation i Danmark, advarer de mod lignende sager i nær fremtid.

Derfor opfordrer Morten Jepsen, underwriting direktør i Købstædernes Forsikring, danskerne til at være særligt opmærksomme:

– Hvis man oplever at blive ringet op af fx et familiemedlem eller en ven, som beder om at overføre penge eller dele privat information, skal man være på vagt. Med en simpel intelligent løsning, kan svindlere misbruge en eksisterende lyd- eller videooptagelse til lave falske talebeskeder, som de vil. Derfor skal man altid forsøge at dobbelttjekke en mistænkelig henvendelse ved at kontakte personen via andre kanaler, fortæller han.

Fem måder, du kan stille dig selv stærkere

Selvom bedrageriforsøgene kan være svære at gennemskue, kan man tage sine forholdsregler. Morten Jepsen fra Købstædernes Forsikring, giver sine fem bud:

1) Vær kritisk – selvom det kan virke overbevisende, skal man altid forholde sig kritisk over for uopfordrede henvendelser og lade være med at udlevere nogen former for oplysninger, som kan misbruges.

2) Gå til kilden selv – Hvis du fx modtager et opkald fra din bank om at udlevere information, så kontakt altid selv banken via andre og sikre kommunikationskanaler, da du ikke kan vide dig sikker på, hvem der sidder i den anden ende af røret. På samme måde gælder det, at du skal dobbelttjekke links modtaget på email eller sms, hvis du er det mindste i tvivl. Gå i stedet ind på den pågældende virksomheds webside via din browser.

3) Mistænker du deepfake, så hold øje med afvigelser – selvom ansigter kan manipuleres, er der stadig udfald i teknologien, som kan afsløre, om en video er falsk. Hold øje med ansigtet igennem videoen: er ansigtet enten meget poleret eller atypisk rynket? Passer læbernes bevægelser med de sagte ord?

4) Tjek din forsikring – Gennemgå dine forsikringer og tjek, hvordan du er dækket, så der er professionel vejledning at at hente, hvis uheldet skulle være ude. Fx kan du købe en forsikring, som dækker digital kriminalitet.

5) Tal med dine omgivelser – Ikke alle er klar over, at AI kan gøre svindelforsøg mere effektive. Tal særligt med børn og relationer fra den ældre generation, da mindre it-kyndige kan være en nem målgruppe at angribe for hackerne.

It-eksperternes svindelordbog

Phishing: Overordnet betegnelse for forsøget på at franarre personoplysninger, som svindleren kan misbruge efterfølgende.

Spoofing: En svindler udgiver sig for at være en anden – typisk myndighed, virksomhed, privatperson eller lignende. Svindelforsøget sker ofte ved et forfalsket telefonnummer eller email afsender, så beskeden eller opkaldet ser ud til at komme fra fx politiet.

Smishing: En sammentrækning af SMS og phishing, hvor svindlen udelukkende foregår på SMS.

Vishing: En sammentrækning af voice og phishing, hvor svindlen udelukkende foregår over opkald eller talebeskeder.

ChatGPT phishing: AI benyttes i phishing-forsøg til at efterligne tone og stil, oversættelser, grammatik og stavefejl.

Deepfakes: Digital manipulation af billeder eller video af en person for at skabe en overbevisende fremtoning af den givne person, selvom hændelsen ikke er fundet sted.

AI-stemmekloning: En svindler udnytter AI til at klone stemmer ud fra video eller lydoptagelser til at foretage svindel.

Social engineering: En svindler forsøger at franarre personoplysninger gennem psykologisk manipulation af offeret. På dansk kan det oversættes til social manipulation.