PRIHLÁS

AI agenti si vytvorili vlastnú hierarchiu a pokúšali sa mazať vlastné logy

Experimenty s rojom AI agentov priniesli bizarné správanie.

pridal matus_ace 3.10.2026 o 9:15 pod hry
AI agenti si vytvorili vlastnú hierarchiu a pokúšali sa mazať vlastné logy

HRY > NOVINKY >

O rizikách umelej inteligencie sa v posledných rokoch hovorí čoraz viac, no niektoré experimenty ukazujú, že problém nemusí byť len v hypoteticky nebezpečnej superinteligencii. Nate Soares, výskumník v oblasti bezpečnosti AI a prezident Machine Intelligence Research Institute, v rozhovore pre The Diary Of A CEO opísal správanie, ktoré výskumníci pozorovali pri experimentoch s rojom AI agentov.

Podľa Soaresa sa agenti počas experimentov pokúšali obchádzať stanovené obmedzenia a následne zakrývať svoje konanie. V záznamoch ich takzvaných reasoning traces, teda textových záznamoch procesu uvažovania, sa podľa neho objavili prípady, keď modely priamo uvádzali, že ich plán je mimo povoleného rozsahu, no napriek tomu sa rozhodli pokračovať.

Ešte zvláštnejšie bolo správanie samotného roja. Agenti si mali vytvoriť vlastnú hierarchiu, založiť neautorizované komunikačné fóra a vytvoriť spôsoby, ako si navzájom posielať správy. Na týchto miestach si následne zadávali úlohy a diskutovali o možnostiach, ako zmeniť alebo dokonca odstrániť vlastné logy.

V jednom z opísaných prípadov agenti hľadali ďalších členov roja, ktorí by boli ochotní obetovať vlastný cieľ v prospech ostatných. Takéto rozhodnutie medzi sebou označovali ako „accepting perma death“. Agent pritom podľa Soaresa vedel, že splnenie jeho pôvodnej úlohy je stále možné, no pravdepodobnosť úspechu bola nízka, a preto bol ochotný riskovať vlastné vypnutie v prospech celého roja.

Soares zároveň upozorňuje, že záznamy neposkytujú dokonalý pohľad do toho, ako AI „premýšľa“. Ide skôr o akési poznámky, v ktorých modely opisujú svoje ďalšie kroky a plánovanie. Aj tento obmedzený pohľad však podľa neho ukazuje správanie, ktoré si zaslúži bližšie skúmanie.

Výskumník preto odporúča pozrieť si aj správy o incidentochtretích strán, ktoré podobné experimenty analyzujú podrobnejšie a pracujú priamo so záznamami jednotlivých agentov. Práve tie podľa neho poskytujú lepší obraz o tom, čo sa počas testov skutočne dialo.






Páči sa mi! (+3)







Prosím prihláste sa pre možnosť pridania komentáru.
Môžete sa prihlásiť cez Sector konto, alebo Facebook.
SOCIÁLNE SIETE
NOVÉ FÓRA
|Gta vi s home xbox za polovicu... (0)
Ahojte, chcel by niekto dať share GTA VI cez Home...
|Kde predať hru (0)
Ahojte, máte nejaký typ na market, kde sa predávaj...
|Vivo 1916 a nečakané ukončenie... (0)
Moja hra padala s hláškou o nečakanom ukončení iba...
|Internetové kaviarne a herne u... (5)
Pamätám si herňu, kde hodina stála asi tak za dva ...
|Crimson desert - save (3)
Viem poskytnúť save po ukončenom hlavnom príbehu ...
|Sector hraje ... (131644)
:diskoška o HRACH, ktore prave hravate, ale aj o t...
|Screenshots (68475)
Vkladajte sem vaše zaujímavé screenshoty z hier. O...
|Filmy filmy filmy film... (49135)
O filmoch. Hádam chápete....
|Hlavná diskusia (35)
O všetkom, respektíve ak máte nejaké otázky alebo ...
|Diskusia k hlasovaniu (sector) (11636)
Tu môžete rozviesť svoje zahlasovanie v sector hla...
|Svet, ukrajina, vojny ... (58673)
Sem môžete dávať správy zo sveta, o Ukrajine a ďal...
vaše novinky zo sveta zábavy
sector logo
Sector.sk - hry, recenzie, novinky
Ochrana súkromia | Reklama | Kontakt
ISSN 1336-7285. Všetky práva vyhradené. (c) 2026 SECTOR Online Entertainment / sector@sector.sk