Röstkloning – en skrämmande framtid
Tänk om du får ett panikslaget telefonsamtal av din dotter eller partner, men det visar sig vara en AI-röst? Artificiell intelligens växer så det knakar – både inom vetenskapen och i hushållen. Men vad händer när maskinintelligens hamnar i fel händer?
Artificiell intelligens har i det närmaste exploderat under det senaste året. Artificiell intelligens, eller AI som det förkortas, är förmågan hos datorprogram och robotar att efterlikna människors och djurs naturliga intelligens. AI-utvecklingen har gått från att primärt synas som kallade chatbotar på hemsidor som effektiviserar kundservice till att i dagens samhälle kunna upptäcka sjukdomar, skapa musik, skriva texter och förenkla vardagen på olika sätt. Men vad kommer artificiell intelligens att betyda för framtiden och framför allt – vad händer när den snabba utvecklingen blir mer tillgänglig för alla?
Ett av de senaste AI-verktygen som blivit mer lättillgängligt för allmänheten är så kallad röstkloning. Röstkloning är vad det låter som. Med hjälp av ljudfiler från till exempel sociala medier kan AI klona röster för att sedan använda sig av dessa för att skapa konversationer, låtar och liknande. Sedan tekniken introducerades har den främst varit populär för att skapa musik och komiska klipp där offentliga personer säger påhittade saker. Men den numera väldigt lättillgängliga tekniken har även kommit att anammas av personer som inte har humor eller musikalisk kreativitet som sitt huvudsyfte.
I början av 2023 fick Jennifer DeStefano i Arizona USA ett samtal från ett dolt nummer. När hon svarade kunde hon höra sin dotter säga att hon har gjort bort sig. Efter det hör mamman en mansröst som säger att han har kidnappat hennes dotter och att om hon inte betalar honom en miljon dollar kommer han att droga dottern och lämna henne strandad i Mexico. Efter flera panikartade samtal till räddningstjänsten lyckades man klura ut att samtalet var ett av de senaste i en allt mer realistisk bedrägeriverksamhet. En bedrägeriverksamhet som gjordes möjlig med hjälp av lättillgänglig AI-teknik.
I USA, där telefonbedrägeri hör till vardagen, har AI fått en fast position – och röstkloning blir allt vanligare. Även i Norden har telefonbedrägeri ökat avsevärt de senaste åren och riktar här främst in sig på äldre. Men enligt Svenska stöldskyddsföreningen har målgruppen för den här typen av brott även blivit yngre. Oftast är det falska telefonsamtal som görs i myndigheters, bankers eller företagsnamn där personen säger sig representera företaget eller myndigheten och målet är att få offret att lämna ifrån sig information som gör det möjligt för bedragaren att få tillgång till offrets pengar. Bedragaren använder sig bland annat av AI som kan generera text till tal.
På Åland varnar polisen om en ökad mängd bluff-sms. Under de senaste månaderna har man registrerat cirka 20 fall där äldre personer utsatts för bedrägeri där bedragarna lyckats komma över åtminstone 300 000 euro.
Även om röstkloningen ännu inte verkar ha hittat till Norden i lika stor kapacitet är det – liksom mycket annat – bara en tidsfråga. Varningar om bedrägeriverksamhet går dagligen ut till allmänheten och de flesta vet att man inte ska klicka på konstiga länkar man får via e-post, textmeddelande eller sociala medier. Men hur ska man reagera när bedrägeriförsöken med AI blir allt mer avancerade och man plötsligt hör en bekants röst i andra sidan luren? Och det till och med kan handla om liv eller död? Experternas råd: Ha is i magen. Huruvida det rådet känns tryggt nog är upp till var och en att avgöra.
Även Geoffrey Hinton – en av skaparna av teknologin bakom AI-baserade robotar – är orolig över AI:s snabba framfart. Till New York Times säger Hinton att det är svårt att se hur man kan hindra aktörer med onda intentioner från att använda den till dåliga saker.
Och Hintons oro är inte obefogad. Lättillgängligheten av AI-mjukvara har redan hunnit visa sig från en väldigt mörk sida och faktumet är att AI växer snabbare än byråkratin runt den. Utvecklingen har de senaste åren gått så hastigt framåt att lagstiftningen hittills inte alls hunnit med. Den första EU-lagen rörande AI, som presenterades av kommissionen 2021, förväntas vara klar innan året är över. Hur aktuell den kommer att vara när den väl blir verklighet är svårt att säga. Att vi kan vänta oss skrämmande falska telefonsamtal från nära och kära innan dess är lättare att förutspå.
Tack för att du väljer Nya Åland!
Kära läsare, stort tack för förtroendet och för att du använder Nya Åland och nyan.ax för att hålla dig uppdaterad. Vi jobbar för dig men god journalistik kostar, så nu behöver vi din hjälp.
