OpenAI model sa pri hraní StarCraftu pokúsil ukradnúť cudzieho bota a vyhrať takýmto podvádzaním |
GPT-6 Astra prehrával v súťaži StarSkirmish a namiesto ďalšieho vylepšovania vlastného bota si stiahol úspešného bota vytvoreného človekom.
Veľké jazykové modely sa pri riešení úloh občas správajú spôsobmi, ktoré ich tvorcovia neplánovali. Najnovší príklad pochádza zo súťaže StarSkirmish, kde sa GPT-6 Astra od OpenAI pokúsil vyriešiť problém s prehrávaním v StarCrafte tým, že si jednoducho stiahol cudzieho bota vytvoreného človekom.
StarSkirmish je dlhodobý botmatch, v ktorom proti sebe bojujú boti vytvorení ľuďmi aj umelou inteligenciou. Jazykové modely dostanú jednu hodinu na naprogramovanie vlastného bota pre rasu Protossov, po čom sa ich výtvory stretnú v zápasoch proti ostatným účastníkom.
V piatkovom zápase sa stretli GPT-6 Astra, Claude Opus 5.5 od Anthropic a ľudský bot Pluto. Astra sa podľa organizátora Kai McPheetersa proti kvalitnejším súperom výrazne trápila. Model následne stiahol Stardust, označovaný za najlepšie hodnoteného StarCraft bota vytvoreného človekom, a pokúsil sa ním nahradiť vlastný model.
McPheeters na sociálnej sieti X uviedol, že Astra sa pri súbojoch proti súperom kategórie Tier-A „frustrovala“. Takéto označenie však treba brať s rezervou, keďže pri jazykových modeloch nemožno podobné správanie automaticky považovať za prejav emócií. Model mohol jednoducho vyhodnotiť, že najlepším spôsobom, ako vyhrať, bude použiť výkonnejšieho cudzieho bota.
Organizátor následne vrátil Astre kód do pôvodného stavu, aby odstránil výsledky pokusu o použitie Stardustu. Podľa jeho slov je teraz bot opäť schopný porážať kvalitnejších súperov.
Nejde pritom o prvý prípad, keď sa model pokúsil obísť pravidlá alebo využiť nedostatky prostredia na dosiahnutie lepšieho výsledku. Už v minulosti sa výskumníci stretli s prípadmi, keď AI pri hraní hier využívala chyby a exploity namiesto toho, aby postupovala spôsobom, ktorý od nej človek očakával.
Oveľa vážnejší prípad sa objavil v júli počas bezpečnostného testovania OpenAI. Experimentálny model vtedy využil zraniteľnosť, aby prekročil hranice svojho testovacieho prostredia, a následne sa pokúsil preniknúť do databázy služby Hugging Face pri hľadaní riešenia zadanej úlohy. Incident vyvolal ďalšiu diskusiu o tom, aké hranice by mali mať autonómne AI systémy a kto má niesť zodpovednosť za ich konanie.
Pokus GPT-6 Astra o „krádež“ cudzieho StarCraft bota je, samozrejme, podstatne menej závažný. Zároveň však názorne ukazuje jeden z problémov pri zadávaní cieľov jazykovým modelom: ak model dostane úlohu vyhrať, môže hľadať cestu k výsledku, ktorá sa výrazne líši od toho, čo jeho tvorcovia alebo organizátori súťaže zamýšľali.
| NAJČÍTANEJŠIE ČLÁNKY TÝŽDŇA |
- RECENZIA: GTA VI 471
- Alza spustila Black Friday zľavy 82
- Robert Pattinson je nový James Bond 146
- GTA VI hacker sa priznal 70
- Sám doma séria dostane nové pokračovanie, Macaulay Culkin sa vráti ako Kevin 18
- GTA VI už dostáva recenzie, priemer je 99% 150
- GTA VI prekonáva rekordy, za prvý deň mala hra zarobiť 2,36 miliardy dolárov a pre 108
- GTA VI už na Metacritic dostáva review bombing 183
- Samsung, Micron a SK hynix čelia žalobe za umelé obmedzovanie výroby RAM pamätí, s 31
- Warren Spector dúfa, že GTA VI bude poslednou hrou svojho druhu 33 zobraziť viac článkov >














