OpenAI model sa pri hraní StarCraftu pokúsil ukradnúť cudzieho bota a vyhrať takýmto podvádzaním

Veľké jazykové modely sa pri riešení úloh občas správajú spôsobmi, ktoré ich tvorcovia neplánovali. Najnovší príklad pochádza zo súťaže StarSkirmish, kde sa GPT-6 Astra od OpenAI pokúsil vyriešiť problém s prehrávaním v StarCrafte tým, že si jednoducho stiahol cudzieho bota vytvoreného človekom.

StarSkirmish je dlhodobý botmatch, v ktorom proti sebe bojujú boti vytvorení ľuďmi aj umelou inteligenciou. Jazykové modely dostanú jednu hodinu na naprogramovanie vlastného bota pre rasu Protossov, po čom sa ich výtvory stretnú v zápasoch proti ostatným účastníkom.

V piatkovom zápase sa stretli GPT-6 Astra, Claude Opus 5.5 od Anthropic a ľudský bot Pluto. Astra sa podľa organizátora Kai McPheetersa proti kvalitnejším súperom výrazne trápila. Model následne stiahol Stardust, označovaný za najlepšie hodnoteného StarCraft bota vytvoreného človekom, a pokúsil sa ním nahradiť vlastný model.

McPheeters na sociálnej sieti X uviedol, že Astra sa pri súbojoch proti súperom kategórie Tier-A „frustrovala“. Takéto označenie však treba brať s rezervou, keďže pri jazykových modeloch nemožno podobné správanie automaticky považovať za prejav emócií. Model mohol jednoducho vyhodnotiť, že najlepším spôsobom, ako vyhrať, bude použiť výkonnejšieho cudzieho bota.

Organizátor následne vrátil Astre kód do pôvodného stavu, aby odstránil výsledky pokusu o použitie Stardustu. Podľa jeho slov je teraz bot opäť schopný porážať kvalitnejších súperov.

Nejde pritom o prvý prípad, keď sa model pokúsil obísť pravidlá alebo využiť nedostatky prostredia na dosiahnutie lepšieho výsledku. Už v minulosti sa výskumníci stretli s prípadmi, keď AI pri hraní hier využívala chyby a exploity namiesto toho, aby postupovala spôsobom, ktorý od nej človek očakával.

Oveľa vážnejší prípad sa objavil v júli počas bezpečnostného testovania OpenAI. Experimentálny model vtedy využil zraniteľnosť, aby prekročil hranice svojho testovacieho prostredia, a následne sa pokúsil preniknúť do databázy služby Hugging Face pri hľadaní riešenia zadanej úlohy. Incident vyvolal ďalšiu diskusiu o tom, aké hranice by mali mať autonómne AI systémy a kto má niesť zodpovednosť za ich konanie.

Pokus GPT-6 Astra o „krádež“ cudzieho StarCraft bota je, samozrejme, podstatne menej závažný. Zároveň však názorne ukazuje jeden z problémov pri zadávaní cieľov jazykovým modelom: ak model dostane úlohu vyhrať, môže hľadať cestu k výsledku, ktorá sa výrazne líši od toho, čo jeho tvorcovia alebo organizátori súťaže zamýšľali.