499 forskare varnar för våg av AI-attacker: "Allt kan bli måltavlor"

Nästan 500 forskare, inklusive Nobelpristagaren Geoffrey Hinton, har undertecknat ett upprop som kräver skärpta säkerhetsåtgärder från AI-bolagen. Uppropet, som initierades vid universitetet i Toronto, efterlyser ett internationellt organ för att öka säkerheten inom utvecklingen av kraftfull artificiell intelligens. Bakgrunden är flera uppmärksammade hackerattacker utförda av AI-agenter från bolag som Anthropic, Open AI och Google, vilka forskarna menar hade kunnat undvikas. Enligt Chalmersforskaren Andrei Sabelfeld, som är kontaktperson för uppropet i Sverige, är det avgörande att tillämpa cybersäkerhetspraxis för att kontrollera AI-agenter. Han betonar vikten av att totalt isolera AI-agenter med kraftfulla cybersäkerhetsförmågor under tester för att förhindra framtida incidenter.Hugins skriver