Nyheter

Journalist klonar sin egen röst och bryter sig in på sitt eget bankkonto

Om du inte redan är orolig för AI-röstkloning borde du förmodligen vara det. Journalisten Joseph Cox på nyhetssiten Vice testade teknikens gränser. Han tog sig in i sitt eget bankkonto med hjälp av en AI-syntetiserad klon av sin egen röst. Det visade på teknikens farliga potential och bristerna med röstbiometri. 

När Cox ringde den automatiserade servicelinjen till den brittiska Lloyds Bank, bad roboten i andra änden honom att uppge varför han ringde. Han riktade den till ”Check my balance” genom att använda ett AI-syntetiserat ljudklipp av hans röst.

Banken bad om hans födelsedatum, vilket Cox slog in, innan han bad honom säga högt ”min röst är mitt lösenord.”

”Min röst är mitt lösenord”, sa Cox röstklon.

”Tack”, svarade banken.

Människostyrd AI-röstklon lurade sig in på ett bankkonto och fick tillgång till kontots saldon och de senaste transaktionerna. Nu var ju förövaren ägaren till kontot den här gången, men det finns ingen garanti för att hackare i framtiden inte kommer att kunna dra ut samma nackdel mot intet ont anande individer.

Cox använde ett billigt och populärt AI-röstkloningsverktyg från ElevenLabs. För att producera en övertygande kopia behöver en användare av verktyget bara ladda upp prover av vilken röst de vill klona och skriva in vad de vill att klonen ska säga – ingen teknisk expertis krävs.

Röstbiometri används på ett antal amerikanska banker, inklusive Chase, Wells Fargo och TD Bank för att verifiera kontoinnehavare som ringer in via telefon.

Lloyds Bank, där Cox’s klon fejkade sig in, hävdar att dess:

”säkra” Voice ID-säkerhetsfunktion analyserar över ”100 olika egenskaper hos din röst, som likt ditt fingeravtryck är unika för dig.”

Just nu tar röstkloningsbedrägerier inte precis världen med storm eftersom det inte alltid är praktiskt för en hackare att få din röst – om du inte är känd – men det är förmodligen bäst att inte lita på den som din enda linje av försvar.

Foto:William James