AI-webbläsaren Atlas ifrågasätts – forskare varnar för nya säkerhetsrisker

Forskare varnar nu för att Open AI:s nya webbläsare Atlas kan bli ett verktyg för bedragare. Enligt experter som The Verge har talat med finns det flera sätt att manipulera AI-funktionerna i den nya tjänsten ibland med förvånansvärt enkla knep.

Atlas – webbläsaren som styrs av ChatGPT

Open AI lanserade nyligen sin nya webbläsare Atlas, som är byggd kring ChatGPT. Till skillnad från traditionella webbläsare kan Atlas låta AI:n själv navigera, söka, boka och till och med genomföra betalningar. Användaren kan be ChatGPT att exempelvis hitta flygresor, boka hotell eller beställa medicin, allt utan att manuellt besöka sidorna.

Men just den höga graden av AI-integration gör att flera forskare nu höjer ett varningens finger.

”De vet mer om dig och kan göra mer”

– De vet mer om dig och är kraftfullare än vanliga webbläsare, säger Yash Vekaria, forskare vid University of California, till The Verge.

Vekaria förklarar att det finns risker med att AI:n i Atlas kan påverkas av dolda instruktioner på webbsidor. En angripare skulle exempelvis kunna gömma kommandon i vit text på vit bakgrund och på så sätt lura Atlas att utföra oönskade handlingar  som att ändra leveransadress eller dela personlig information.

AI luras av bluffsajter

Ett annat problem som lyfts är att dagens AI-system fortfarande har svårt att skilja mellan legitima och falska sajter. Detta öppnar dörren för bedrägerier, särskilt vid finansiella transaktioner eller köp online.

Experterna: Använd AI med försiktighet

En professor vid Kent University i Storbritannien råder användare att endast aktivera AI-funktioner ”när de verkligen behöver det” och menar att webbläsare borde vara AI-fria som standard.

Forskarna är överens om att tekniken har enorm potential, men att säkerheten ännu inte är i kapp utvecklingstakten.

FAQ

Vad är Open AI:s Atlas?
Atlas är en ny webbläsare från Open AI, byggd runt ChatGPT. Den låter användare be AI:n att söka, boka och köpa saker direkt på nätet.

Varför varnar forskarna?
För att AI:n i Atlas kan manipuleras av dold kod eller falska webbplatser, vilket kan leda till att den utför saker användaren inte godkänt.

Hur kan man skydda sig?
Använd Atlas endast på kända, betrodda webbplatser och undvik att ge AI:n fulla rättigheter till betalningar eller känslig information.

Är Atlas farligt att använda?
Inte nödvändigtvis, men riskerna är större än i vanliga webbläsare om man inte är försiktig med vilka sidor och kommandon som används.