3.6 AI & deepfakes Granskas

Den här sektionen är navet i guiden. AI är inte ett hot bland andra utan en kraft som förstärker nästan allt vi tagit upp — bedrägerierna → §3.4, påverkan i dina flöden → §3.5 och angreppen mot både företag och samhället → §3.7. Övriga sektioner nämner effekterna av AI; här förklaras varför de uppstår, och varför utvecklingen ser ut att fortsätta i samma tempo.

Vad AI kan i dag — kort och osminkat

Det som för några år sedan krävde en filmstudio eller en hel bedrägeriliga kan i dag göras av vem som helst, billigt och på minuter:

• Röst. Några sekunders ljud — från ett röstmeddelande eller en film på sociala medier

— räcker för att härma någons röst i ett telefonsamtal.

• Bild och video. Övertygande ansikten som aldrig funnits, och "deepfakes" där en

verklig person tycks säga eller göra något den aldrig gjort.

• Text. Felfria, personliga och trovärdiga bluffmeddelanden på vilket språk som helst,

i massor. De gamla tecknen — stapplig svenska och konstiga formuleringar — är borta.

Varför du inte längre kan "se skillnaden"

Ett vanligt råd har varit att leta efter avslöjande detaljer: konstiga händer, ryckig video, ögon som inte blinkar. Släng det rådet. Tekniken blir bättre för varje månad, och det du lärde dig känna igen i fjol är redan lagat. Att försöka upptäcka förfalskningar är en kapplöpning du kommer att förlora.

Byt därför strategi — från att avslöja till att verifiera. Äkthet är inte något du ska försöka se, utan något du bekräftar på ett sätt du själv väljer:

• Kom överens om ett kodord med familjen för brådskande ärenden om pengar eller fara

→ §2. En klonad röst kan inte kodordet.

• Ring alltid tillbaka på ett nummer du själv slår upp, inte det du blev uppringd från

→ §3.4.

• Litar du inte på ett meddelande, byt kanal: ring i stället för att svara på sms,

eller be om ett videosamtal du själv startar.

AI som verktyg för angripare — därför gäller inte gamla spelregler

Förr byggde säkerheten i mjukvara på en någorlunda förutsägbar ordning: någon hittade en brist, den rapporterades ansvarsfullt, och den lagades inom veckor eller månader innan den hann utnyttjas. Att över huvud taget hitta bristerna krävde dessutom hög kompetens. Båda dessa antaganden har rämnat. AI låter även den med små kunskaper hitta och utnyttja säkerhetshål på timmar, och skräddarsy bluffmeddelanden till tusentals personer samtidigt.

Följden är att försvaret ligger efter — inte av slarv, utan för att tempot har ändrats fortare än någon hunnit ställa om. Därför kan du inte längre räkna med att ens stora, seriösa aktörer alltid hinner skydda dig, och därför väger dina egna vanor tyngre än förr: automatiska uppdateringar → §3.2, tvåfaktor → §3.1 och egna säkerhetskopior → §3.3.

Ingen håller i bromsen — varför utvecklingen inte saktar in

En rimlig fråga är: om det här är så riskabelt, varför bromsar ingen? Svaret ligger i vilka som styr utvecklingen, och att ingen av dem har både makten och skälet att sakta ner.

• De som bygger tekniken är ingenjörer som drivs av nyfikenhet och av att lösa svåra

problem. Robert Oppenheimer beskrev drivkraften redan efter atombomben: "när man ser något som är tekniskt tjusigt går man vidare och gör det, och först efteråt bråkar man om vad man ska göra med det." Att bygga något nytt och säkert är dessutom mycket dyrare än att bara bygga det.

• De som finansierar den drivs av vinst och av att inte bli omsprungna. Även den som ser

riskerna förlorar på att bromsa ensam medan konkurrenten rusar vidare — det är en kapplöpning, inte bara okunskap.

• De som ska sätta gränser — lagstiftarna — är strukturellt sist på plan. När en teknik

är ny nog att kunna styras vet man ännu inte vilka skador den ger; när skadorna är kända är tekniken redan för spridd för att hejda. Forskningen kallar det the pacing problem. Ett vardagsnära exempel: EU:s dataskyddsförordning (GDPR) föreslogs 2012 och började gälla 2018 — under samma år förändrade smarttelefonen och sociala medier allt.

Vill du läsa mer om hur tekniken springer ifrån politiken är historikern Yuval Noah Hararis böcker (Homo Deus, 21 Lessons, Nexus) en tillgänglig ingång se §5.

Vi är mitt i ett sådant gap just nu

Det är inte så att ingen märkt problemet. 2023 skrev tusentals forskare under ett upprop om att pausa de mest kraftfulla AI-experimenten — men de stora AI-bolagens chefer skrev inte under, och ingen inbromsning följde. Samma år varnade ledande AI-forskare och företagsledare, däribland cheferna för OpenAI, Anthropic och Google DeepMind, för att AI i värsta fall utgör en utrotningsrisk på samma nivå som pandemier och kärnvapen se §5.

Det märkliga är att de som varnar också är de som bygger. Vad de faktiskt begär är inte att själva få bromsa, utan tvingande regler utifrån — obligatorisk testning och en stat som kan stoppa farliga modeller — just eftersom ingen vågar sakta ner ensam. Historiskt har självreglering ibland fungerat, och lagstiftningen kommer förr eller senare ikapp. Men i gapet däremellan — där vi står nu — är din egen omdömesförmåga det enda skydd som finns på plats.

AI-assistenter: tänk efter vad du matar dem med

Chattbottar och AI-assistenter är användbara, men allt du skriver in kan sparas, användas för att träna framtida modeller eller läcka vid ett intrång. Behandla dem som en halvöppen anteckningsbok, inte som ett privat samtal:

• Klistra aldrig in lösenord, person- eller kontonummer, eller känsliga uppgifter om din

hälsa eller ekonomi.

• Lämna inte ut andras uppgifter — det är inte ditt att dela.
• Tänk som med allt annat du lägger ut: utgå från att det kan bli bestående och synligt

→ §3.3.

Där det här leder vidare

De billiga förfalskningarna, den sänkta tröskeln för angrepp och möjligheten att påverka många på en gång är inte bara ett problem för enskilda. Det är precis de verktyg som stater och statsnära aktörer använder för att påverka och destabilisera hela samhällen — ofta med enskilda människor som måltavla eller budbärare. Där tar nästa sektion vid → §3.7.

Gör detta först: bestäm ett kodord med dina närmaste och vänj dig vid att verifiera brådskande meddelanden via en egen kanal — det skyddar mot både klonade röster och vanliga bedrägerier → §2.