AI-svindel: Deepfakes og klonede stemmer snyder danskere

Fra et forfalsket videomøde til 25 millioner dollars og et »barnebarn«, der næsten lykkedes med at franarre en bedsteforælder penge

Da telefonen ringede med et »barnebarn«, der ikke fandtes

Forestil dig at telefonen ringer sent en aften, og stemmen i den anden ende lyder grædende og desperat. Det er din elskede – i hvert fald lyder det sådan. En amerikansk bedsteforælder oplevede for nylig præcis det: et opkald fra »barnebarnet«, der bad om penge til at komme ud af en akut knibe. Stemmen var klonet med kunstig intelligens, og den var ægte nok til at få de fleste til at reagere på instinkt frem for eftertanke.

Det er et af de tydeligste eksempler på, hvordan AI-svindel har taget et nyt og markant mere overbevisende niveau. Vi er forbi de klassiske svindelmails med akavet sprog og mistænkelige links. I dag kan svindlere klone stemmer, forfalske videoopkald og skræddersy bedrag, der er svære at få øje på – uanset om du sidder i en direktørstol, styrer virksomhedens økonomi, eller bare svarer telefonen som bedsteforælder.

Hvorfor tidspres er svindlernes vigtigste våben

Der er ét træk, der går igen i stort set alle former for AI-svindel: hastværk. Svindleren skaber en situation, hvor du skal handle nu – overføre penge nu, klikke nu, bekræfte nu. Så snart panikken eller presset tager over, forsvinder den sunde skepsis, og det er lige der, svindlerne vinder.

Det samme princip kender man faktisk fra helt legitime dele af forretningslivet. Når man for eksempel skal træffe hurtige beslutninger i en Google Ads-kampagne, er faren for at handle for hurtigt og overspringe kontrolspørgsmålene også reel – bare med lavere indsats. I svindelsager er indsatsen sjældent lav. Derfor er den vigtigste modgift simpel: læg altid en pause ind, før du handler på en presserende besked eller et opkald, uanset hvor ægte det lyder.

25 millioner dollars på et enkelt videoopkald

Hvor overbevisende AI-drevet bedrag kan være i virksomhedssammenhæng, viser en sag fra Hongkong med al tydelighed. En finansmedarbejder blev inviteret til et videomøde med, hvad der så ud som hele virksomhedens ledelse – økonomidirektøren og flere andre ledere, alle med velkendte ansigter og stemmer. Under mødet blev medarbejderen instrueret i at overføre penge til en række konti. Det gjorde han, i god tro. Ledelsen på skærmen var deepfakes, og virksomheden endte med at være franarret omkring 25 millioner dollars.

Det er ikke længere nok at genkende et ansigt eller en stemme – det er blevet muligt at forfalske begge dele overbevisende nok til at narre selv erfarne medarbejdere.

Stemmekloning og det »barnebarn«, der næsten lykkedes

Sagen med den amerikanske bedsteforælder er mindre kostbar i kroner, men lige så foruroligende. Her lykkedes det svindlerne at klone en ung stemme så præcist, at bedsteforælderen næsten gennemførte overførslen. Det, der endte med at stoppe svindlen, var et enkelt kontrolspørgsmål – noget kun det rigtige familiemedlem ville kunne svare på. Det er præcis den type lavpraktiske forsvar, der virker, når teknologien i sig selv er svær at afsløre med det blotte øre.

Fra phishing til »pig butchering« – fire ord, du bør kende

AI-svindel kommer i mange forklædninger, og det hjælper at kunne sætte ord på dem:

• Phishing – falske mails, der efterligner banker, myndigheder eller kolleger for at franarre login eller betaling.
• Smishing – samme trick, men via sms, ofte med et link til en falsk pakke- eller banksporing.
• Spoofing – afsenderens navn eller nummer forfalskes, så det ser ud som om beskeden kommer fra en, du kender og har tillid til.
• Pig butchering – en langsigtet svindeltype, hvor offeret først opbygger en relation eller »investering« over uger, inden pengene forsvinder for altid.

Deepfakes af kendte danskere i falske investeringsreklamer

En anden voksende variant er reklamer med deepfakes af kendte danske profiler, der angiveligt anbefaler en bestemt investering eller app. Budskabet er ofte det samme: hurtig og næsten garanteret gevinst. Det er værd at huske, at ægte, solid opsparing sjældent handler om hurtige genveje – vil du hellere læse om en mere gennemtænkt tilgang, er at starte forfra med indeksfonde en helt anden – og langt mere realistisk – samtale end de reklamer, der ruller forbi i dit feed.

Er du i tvivl om, hvorvidt en investeringsreklame eller et »kendt ansigt« er ægte, er tommelfingerreglen den samme som i resten af artiklen: tjek kilden uafhængigt, og lad dig ikke rive med af presset for at handle med det samme.

Hvad kan du lære af det her?

Den gode nyhed er, at forsvaret mod AI-svindel ikke kræver teknisk ekspertise – det kræver vaner. Aftal et familiekodeord med dine nærmeste, som kun de rigtige kender, og brug det, hvis nogen ringer og lyder desperate efter penge. Stil et kontrolspørgsmål, som kun den ægte person kan svare på, før du overfører noget som helst. Og tjek altid afsenderadressen eller nummeret grundigt – forfalskede detaljer afslører sig ofte ved et nærmere kig.

I virksomhedssammenhæng gælder samme logik i stor skala: indfør en fast procedure for, at større overførsler altid bekræftes gennem en anden kanal end den, beskeden eller opkaldet kom fra – uanset hvor overbevisende ledelsen på skærmen ser ud. Det kræver måske det samme fokus og den samme ro under pres, som man ser hos iværksættere med et mindset lånt fra elitesporten – evnen til at bremse impulsen og handle efter princip, ikke efter panik.

Den største lære er måske denne: AI-svindel vinder, når vi handler hurtigere, end vi tænker. Løsningen er ikke at blive paranoid over enhver besked, men at bygge små, faste ritualer ind i familien og virksomheden – ritualer, der giver dig et øjebliks pause, netop når svindleren har mest brug for, at du ikke tager den.

▶

Kilder

• Barnebarn i nød eller en klonet stemme? Kom med bag AI's skyggeside – HverdagsAI — Podcastafsnit om AI-drevet svindel, deepfakes og stemmekloning