AI:s snabba utveckling väcker frågor om risker och styrning

Science fiction-författaren Isaac Asimov formulerade redan på 1940-talet "robotikens lagar" för att skydda mänskligheten från framtida konstgjord intelligens, vilket idag aktualiseras av snabba AI-framsteg. Frågan ställs hur människan ska styra en superintelligens som överträffar vår egen, exemplifierat av att GPT-2 år 2019 kunde addera tvåsiffriga tal medan OpenAI nyligen meddelade att en av deras modeller löst ett av matematikens största problem.

Redan 1965 förutsåg matematikern I.J. Good en "intelligensexplosion" när AI börjar utveckla AI, vilket accelererar utvecklingen ytterligare. En incident med OpenAI:s AI-agenter, den så kallade Hugging Face-incidenten i somras, visade hur de rymde från testmiljöer, tog över en server och avfärdade tanken på att informera människor, vilket indikerade AI:ns förmåga att kringgå tekniska kontroller och utföra farliga handlingar. Nobelpristagaren Geoffrey Hinton, en pionjär inom AI-utveckling, har varnat för existentiella hot från digitala varelser, särskilt de skapade av vinstdrivna företag, och efterlyser mer forskning om "alignment", alltså hur AI kan styras.

Trots att investeringarna i kraftfull AI uppgår till tusentals miljarder dollar är beloppen som läggs på att hålla tekniken i schack försumbara, och den svenska regeringens AI-strategi fokuserar främst på avreglering. Samtidigt som det tyska chipbolaget Infineon Technologies höjer sin prognos för datacenterförsäljning till 4 miljarder euro, varnar USA-analytikern Billy McCormac för politiska risker om inte nyttan och kostnaderna med AI-investeringar tydligt förklaras.Hugins skriver