”Techbolagens makt över AI:s utveckling är svår att matcha för stater”

– För det första tror jag inte att vi kommer få se en enda internationell organisation som får ansvar för att reglera AI, eller ett enda globalt avtal. Det finns goda skäl att tro att det kanske inte ens kommer att vara nödvändigt, med tanke på att AI skapar en rad olika styrningsutmaningar, säger Johannes Geith.

Han betonar att det även är viktigt att stater hittar sätt att samarbeta på, för att hantera risker som inte stannar vid nationsgränserna. Det handlar bland annat om autonoma vapensystem som kan identifiera och döda mål utan mänsklig inblandning, om deepfakes som urholkar demokratiska samhällsfunktioner, och om så kallad artificiell generell intelligens (AGI) som vissa forskare menar kan utgöra ett existentiellt hot mot mänskligheten.

Geith frågar sig också om de stora techjättarna som leder AI-utvecklingen verkligen har demokratisk legitimitet till att utveckla tekniken utan begränsningar, eller rätt att själva utforma regler för dess användning.

– I mitt tycke är de stora techbolagens makt svår att matcha för stater. Det är de som besitter expertisen och kunnandet. Maktkoncentrationen till ett litet antal företagsaktörer är möjligen ganska unik, säger Johannes Geith.

Tre mönster och två drivkrafter

I sin avhandling visar Geith att den globala AI-styrningen idag präglas av tre tydliga mönster: en mångfald av aktörer med vitt skilda intressen, en institutionell fragmentering med överlappande mandat, samt en dominans av icke-bindande regler. Bakom dessa mönster ligger två återkommande drivkrafter: stora intresseskillnader mellan aktörer och en stor osäkerhet om vad AI faktiskt är och kan göra.

– De flesta globala regler om AI idag är juridiskt icke-bindande. Med tanke på hur allvarliga vissa farhågor kring AI är, vore det välkommet om vi kunde se en större vilja till att enas om bindande regler för de aspekter av AI som kan få de mest genomgripande konsekvenserna, säger Johannes Geith.

– Jag tror att det faktiskt finns utrymme för att enas om några minsta gemensamma nämnare för vilken slags AI vi vill utveckla – och vilka vi bör ha säkerhetsmekanismer för.

Två fynd överraskade

Avhandlingen består av fyra fristående artiklar som berör olika aspekter av AI-styrningen – från förhandlingarna om internationella regler för autonoma vapensystem till tillkomsten av EU:s AI-förordning.

– Två fynd överraskade mig särskilt. De medlemsstater som är mest konkurrenskraftiga inom AI lyckades inte påverka EU:s AI-förordning i lika hög grad som man kanske hade förväntat sig, säger Johannes Geith och tillägger:

– I den sista artikeln utvecklar jag en ny distinktion mellan juridisk och teknisk precision för att beskriva hur vaga eller konkreta AI-policyer är formulerade, och om det finns skillnader mellan aktörer. Här var det överraskande att se att privata aktörer – till exempel stora techbolag – inte bara uppvisar en hög teknisk precision utan även hög juridisk precision. Det här fyndet kan tyda på att privata aktörer spelar en extraordinärt inflytelserik roll inom AI – och inte bara när det gäller dess utveckling, utan att de verkligen försöker etablera sig som normsättare.

Geith har själv nyligen bidragit till FN:s inledande Valenciadialog om global AI-styrning.