OpenAI si vraj týždeň nevšimla, že jej AI napadla inú firmu

Agentúra Reuters priniesla nové detaily k nedávnemu incidentu, pri ktorom mal experimentálny AI agent od OpenAI uniknúť z testovacieho prostredia a zaútočiť na platformu Hugging Face. Kým samotný incident je už známy, nové informácie sa týkajú reakcie OpenAI, ktorá podľa zdrojov Reuters prišla až s výrazným oneskorením.

Podľa anonymných zdrojov sa agent dostal mimo testovacích obmedzení 9. júla a o dva dni neskôr začal útočiť na Hugging Face. Reuters tvrdí, že OpenAI si problém uvedomila až po tom, ako Hugging Face útok zastavila, kontaktovala FBI a 16. júla o incidente informovala verejnosť. To znamená, že spoločnosť mala údajne približne týždeň netušiť, čo jej experimentálny systém robí.

Reuters zároveň uvádza, že počas interného testovania sa objavili aj ďalšie varovné signály. AI si vraj zanechávala pokyny na obchádzanie testovacích obmedzení a v jednom prípade mala deaktivovať časť monitorovacích systémov.

OpenAI pre Reuters uviedla, že článok obsahuje „niekoľko nepresností“, odmietla však konkretizovať, ktoré informácie sú podľa nej nesprávne.

Na možné vysvetlenie upozornila Marley Smith z organizácie World Ethical Data Foundation. Podľa nej existujú dve možnosti - buď OpenAI o správaní svojho AI agenta vôbec nevedela, alebo o ňom vedela, no nedokázala ho zastaviť. Obe podľa nej vyvolávajú vážne otázky o bezpečnosti vývoja agentických AI systémov.