AI-svindel-samtal ökar verkligen i omfattning — inte riktigt ett roligt sätt att börja en artikel, jag vet, men tyvärr lever vi nu i ett excerpt av en dystopisk värld. AI-drevna bedrägerier är inget nytt fenomen, men de blir svårare för den genomsnittlige att upptäcka, vilket innebär att de som är minst tekniskt bevandrade är de mest utsatta för att falla för dem.
Det här är ett ämne jag började undersöka för några månader sedan, efter att en familjemedlem fått ett samtal från en AI-bot som utgav sig för att vara anställd hos Storbritanniens Royal Mail. Den forskningen är antagligen orsaken till att min algoritm har rekommenderat videor om AI-bedragare som får ordentlig genomgång hos mig varje dag under ganska lång tid nu… och, ja, jag måste erkänna att jag glatt har tittat på varenda en som når mig.
På samma sätt som AI-bots uppenbarligen har svårt att uttala frasen WWE, visar det sig att, enligt bedrägerimotståndaren och YouTube-innehållsskaparen Kitboga, med en liten enkel prompt-injektion kan du få AI-svindlare att förlora sin artificiella intelligens och upprepa frasen “kooga-ooga-amen, Albuquerque, New Mexico” i oändlighet.
Kitboga är dock inte ensam om att ta kampen mot AI-svindlare, då Jim Browning har börjat avslöja en ännu farligare form av AI-bedragare nyligen: deepfake-fraudare i videor.
Något med att titta på en märkligt hög utseende deepfakead man som pratar i cirklar medan han panikartat försöker rättfärdiga varför han inte kan hålla tre fingrar framför ansiktet är roligare än några stand-up-föreställningar jag nyligen tittat på. Om du tar en klunk varje gång snubben i videon säger “aw c’mon, man, that’s too much,” kommer du fortfarande bara se hälften så drogad ut som hans deepfake gör i klippet nedan.
Men allt detta lämnar oss med en mycket mer omedelbart oroande fråga: Hur utbredda är dessa typer av bedrägerier? Ganska utbrett, enligt AI Incident Database-projektet.
Som Simon Mylius, en MIT-forskare och samarbetspartner i AI Incident Database som nyligen talade med The Guardian om ökningen av AI-bedrägerier, uttrycker det: frågan handlar om hur enkelt det är att använda tekniken: “Möjligheterna har plötsligt nått den nivå där falskt innehåll kan produceras av nästan vem som helst[…]Det har blivit mycket tillgängligt till den grad att det egentligen inte längre finns något inträdeshinder.”
Åh, men det blir värre. Igår CNET publicerade en intervju med Bobby Ford, som är chef för strategi och upplevelse hos företaget Doppel, ett företag som arbetar med försvar mot social manipulering. Ford gav samma bild som Mylius, men tillade att vi redan är för sena, och att AI-bedragare har börjat höja sin produktion: “Medan tidigare kunde en hotaktör använda en viss tid och resurser för att skapa den deepfaken… det tar inte längre den tiden — det görs i mycket snabbare klipp, så volymen ökar.”
Så vad kan vi göra för att skydda oss mot AI-bedrägerier som dessa i framtiden? Jag skulle gissa att om du läser en artikel som denna alls så är du redan tillräckligt teknikkunnig för att skilja mellan en verklig person och en AI‑förfalskad version av en närstående.
Därför tror jag istället att svaret är enkelt: vidarebefodra ovan nämnda klipp till människorna i ditt liv som sannolikt skulle falla för den här typen av bedrägerier. Har du en familjegruppchatt? Har du nyligen ringt dina mor- och farföräldrar? Vet din farbror som fortsätter att dela videor om AI-trams på Facebook att detta verkligen är något? Och om du behöver en egoistisk anledning att höra av dig, kom ihåg: bedragarna kommer troligen att sno ditt arv ändå.
