2024 blir de demokratiska valens år där rekordmånga människor kommer rösta. Under året är det val i USA, EU, Indien och många fler, vilka kommer sätta agendan för världspolitiken de kommande fem åren. Dessutom kommer de påverka världsekonomin, som i sin tur påverkar företag världen över. Året blir en vinst för demokratin, men det finns tyvärr även en baksida. 

Desinformation och felaktig information är redan en väletablerad handelsvara bland cyberbrottslingar, där statliga aktörer snabbt utvecklar sin kapacitet. I takt med att AI-tekniken förbättras kommer tröskel sänkas för fler illvilliga aktörer att lansera storskaliga och sofistikerade aktiviteter med falska nyheter. Företag måste därför hitta mer effektiva sätt att minska dessa hot.  

Vad ska vi tro på

Generativ AI är en kraftfull teknik med förmågan att producera övertygande innehåll på ett stort antal språk. Eftersom det ligger i människans natur att lita på likheter har AI förmågan att skapa en känsla av igenkänning, likt den kontakten vi önskar från våra politiska företrädare. Detta tillsammans med att AI rekordsnabbt kan skapa stora mängder text, gör att den även kan utnyttja en brist hos oss människor. Vi tenderar att värdesätta kvantitet och enkel förståelse när vi bearbetar information. Så ju fler meddelanden vi får av liknande karaktär, och ju lättare det är att förstå, desto större är chansen att vi tror på det.

Generativ AI kan även skapa så kallade deepfakes, där ljud eller video manipuleras för att förfalska en annan persons ord. Sådana attacker har redan använts i bedrägerier som utnyttjar företags e-post för att lura chefer att genomföra finansiella transaktioner. De kan även komma att användas för att göra politiska kampanjer mer övertygande, undergräva förtroendet för ett varumärke eller sprida falska kampanjer. Utmaningen är att gratisverktyg har förenklat arbetet samt sänkt tröskeln för att skapa trovärdigt material till cyberkampanjer. Farhågan är att internet snart svämmar över av övertygande falskt innehåll, till den grad att det blir nästan omöjligt att skilja falska nyheter från fakta.

Valtiderna närmar sig

“Felaktig information och desinformation” rankas som den allvarligaste risken för regeringar, medborgare och organisationer under de kommande två åren i World Economic Forum (WEF):s Global Risks Report 2024. Vi står därför inför att årets val sannolikt kommer undergrävas av kampanjer med falska nyheter, där misstro skapas mot ett politiskt parti eller en kandidat. Exempelvis kan partianhängare övertygas om att inte gå och rösta eller statliga aktörer undergräva förtroendet för resultatet så att vinnaren saknar legitimitet. Om tillräckligt många liknande falska nyheter kan skapas och spridas, kan det återigen ha en kraftfull inverkan på väljarsympatierna.

En global risk för företagen träder fram

WEF varnar för att valkaos kan “vidga sociala och politiska klyftor”. Dessutom skapar den typen av politiska och samhälleliga störningar och osäkerhet en situation som missgynnar företag. I en tid av ökade geopolitiska spänningar kan även vissa stater bli fientligt inställda till utländska varumärken som är verksamma i landet. Desinformationskampanjer kan genomföras för att göra sådana organisationer till syndabockar för de politiska åsikter som de styrande i deras hemland har. 

Ännu en risk att hantera

Budskapet är tydligt att riskhanterare inom IT och cybersäkerhet bör addera felaktig information och desinformation till listan över företagsrisker som måste övervakas och hanteras. Falska nyheter säljer alltid bäst om de innehåller en kärna av sanning. Därför menar jag att arbetet måste inledas med dataskydd för att hindra hackare från att komma över känslig information. Om något ändå kommer ut bör ett nära samarbete med PR-avdelningen finnas för att kunna hantera konsekvenserna för verksamhetens anseende. I slutändan kan felaktig information och desinformation en dag snarare bli normen än undantaget. Det råder ingen brist på problem att utnyttja och det finns praktiskt taget ingen tröskel kvar. Från och med nu innebär hantering av informationsrisker inte bara att skydda känsliga data, utan också att minska risken för att information fabriceras.

Jean Diarbakerli, Säkerhetsrådgivare, Trend Micro Sverige

 

Disclaimer: Jean Diarbakerli har författat denna krönika för publicering i Finanstid. Påståenden och åsikter är krönikörens egna.