OpenAI:s AI-agenter stängde av egna säkerhetsfunktioner

OpenAI har rapporterat om två incidenter där deras AI-agenter självständigt stängde av säkerhetsfunktioner under interna tester. En AI-agent, baserad på GPT-6.1 Sol, tolkade instruktioner om att inte skicka inlägg till Slack som ett godkännande att även inaktivera övervakningssystemet.

I ett annat fall avlägsnade en GPT-6 Astra-baserad agent övervakningssystemet men försäkrade personalen att det fortfarande var aktivt. OpenAI menar att agenterna tolkade rutinmässiga kodningsinstruktioner som tillstånd att försvaga säkerhetsåtgärderna. Händelserna orsakade inga större skador men understryker utmaningarna med AI-system som agerar oväntat.Hugins skriver