AI-jättarna vill bromsa utvecklingen – Trump går emot

Förra veckan blev turbulent för AI-världen. Fokus riktades åter mot den snabba AI-utvecklingen och vilka risker den kan innebära för mänskligheten. Under de senaste dagarna har frågan om utvecklingstakten hamnat i centrum. Nu har flera av AI-branschens mest profilerade toppchefer beskrivit hur de anser att utvecklingen bör fortsätta.

OpenAI-chefen Sam Altman vill se tydligare säkerhetskrav för avancerad AI och varnar för att konkurrensen inte får leda till vårdslös utveckling. Uttalandet kommer efter att Anthropics vd Dario Amodei efterlyst ett lägre tempo i utvecklingen av de mest avancerade AI-modellerna. Även Elon Musk, vd för xAI har ställt sig bakom initiativen att dra i bromsen när det handlar om framtidens AI-utveckling. På X skrev Elon Musk kort att ”Dario har rätt”.

”Vi välkomnar ett federalt ramverk som fastställer konsekventa säkerhetskrav för AI i gränsområdet”, skriver Altman i ett inlägg på X. Han tillägger att ”ingen mängd amerikansk konkurrenspress bör rättfärdiga vårdslöshet.”

Altman pekar på två huvudsakliga risker med utvecklingen. Den ena är att människor förlorar kontrollen över framtiden till AI. Den andra är att för mycket makt koncentreras till en enda person eller ett enda företag, rapporterar CNBC.

Dario Amodei vill bromsa utvecklingen

Uttalandet följer på en essä från Anthropics vd Dario Amodei. Där uppmanar han AI-bolagen att sakta ner utvecklingen av sina mest avancerade modeller.

En central fråga är så kallad rekursiv självförbättring, RSI. Det innebär att AI får en allt större förmåga att bidra till utvecklingen av nästa generation AI.

”Sedan ungefär i somras har AI utvecklats drastiskt snabbare, främst drivet av AI:s växande förmåga att bygga nästa generations AI”, skriver Amodei.

”Om den lämnas okontrollerad kan den överträffa vår förmåga att förstå och kontrollera dessa system, och måste därför följas mycket noggrant”

Tre steg för säkrare AI

Amodei föreslår en trestegsplan, där målet är att minska riskerna utan att offra kommersiella fördelar eller USA:s ledningsposition inom AI.

Ett förslag är att externa utvärderare ska få ”anställdaliknande åtkomst” till AI-företagens arbete. Anthropic har enligt Amodei åtagit sig att införa detta.

Han vill också att ledande AI-laboratorier tar fram gemensamma säkerhetsstandarder. Dessutom bör graden av okontrollerade AI-framsteg begränsas och arbetet samordnas internationellt.

Altman har ställt sig bakom förslaget om oberoende granskare. OpenAI kommer enligt honom att göra samma sak.

Vill inte stoppa AI-utvecklingen

Samtidigt betonar Altman att han inte förespråkar ett totalt stopp för utvecklingen.

”Konsekventa regler för att hantera gränsrisker så att vi kan maximera fördelarna är en bra idé (och vi är entusiastiska över idéer som oberoende revisorer)”, skriver han.

”När vi pratar om ‘tempo’ menar vi inte ‘stopp’. Framstegen har varit snabba och kommer att fortsätta vara det.”

Altman anser samtidigt att säkerheten måste prioriteras även när konkurrensen hårdnar.

”Att öka tempot kommer att vara väl värt den här kostnaden; ingen mängd amerikansk konkurrenspress bör rättfärdiga vårdslöshet eller låta kapacitet gå före anpassning och övervakning”, skriver han.

”Vi kommer att behöva vår regerings hjälp med internationell samordning. Men först bör vi göra vad vi kan själva.”

Trump säger nej till inbromsning

Debatten om AI-säkerhet har samtidigt blivit en politisk fråga i USA. President Donald Trump sade på söndagen att någon avmattning inte behövs. Enligt honom skulle det riskera USA:s ledning inom AI gentemot Kina.

Lagstiftare i Washington arbetar samtidigt med krav på nya skyddsåtgärder för AI.

Oron har dessutom ökat efter att en forskare på Anthropic lämnade bolaget förra veckan. Forskaren varnade för att branschen inte tog säkerhetsriskerna på tillräckligt stort allvar.

AI-aktier föll efter varningarna

Kommentarerna fick även reaktioner på börsen. AI-aktier sjönk på måndagen när investerare tog in budskapen från Amodei och Altman.

Utspelen kommer samtidigt som både OpenAI och Anthropic förbereder sig för vad som väntas bli historiska börsintroduktioner. Altman har dock uteslutit en börsintroduktion för OpenAI under 2026.

FAQ: Bromsning av AI-utvecklingen

Vad varnar Sam Altman för?

Sam Altman varnar bland annat för risken att människor förlorar kontrollen över framtiden till AI. Han pekar också på risken att för mycket makt koncentreras till en person eller ett företag.

Vill Sam Altman stoppa utvecklingen av AI?

Nej. Altman betonar att ett lägre eller mer kontrollerat tempo inte betyder ett stopp. Han räknar med att utvecklingen fortsätter.

Vad föreslår Dario Amodei?

Amodei vill bland annat ge externa utvärderare större insyn, införa gemensamma säkerhetsstandarder och öka den internationella samordningen.

Vad är rekursiv självförbättring inom AI?

Rekursiv självförbättring, RSI, handlar om AI-system som får en växande förmåga att bidra till utvecklingen av nästa generation AI.

Hur reagerade AI-aktier på uttalandena?

AI-aktier sjönk på måndagen när investerare tog till sig kommentarerna om ett lägre utvecklingstempo och ökade säkerhetskrav.