Nový AI model Claude Mythos je taký nebezpečný, že ho dostanú iba vybrané firmy

Anthropic predstavil nový AI model Claude Mythos, ktorý označuje za svoj doposiaľ najrizikovejší systém a zámerne ho neplánuje sprístupniť bežným používateľom. Má totiž ísť však o významný skok v schopnostiach kybernetickej bezpečnosti a hľadania softvérových zraniteľností.

Mythos údajne dokázal samostatne odhaliť doteraz neznáme chyby v používaných knižniciach a dokonca poskladať reťazec exploitov, ktorý viedol k úplnému ovládnutiu systému. Bolo to tak napríklad v prípade Linuxu, kde sa dokázal dostať z úrovne bežného používateľa až na root úroveň, a teda získal plnú kontrolu nad systémom. Údajne táto kombinácia schopností, a teda pokročilá analýza kódu, generovanie exploitov a autonómne experimentovanie viedla firmu k záveru, že otvorené sprístupnenie modelu by predstavovalo veľké riziko pre kybernetickú infraštruktúru.

Model získajú vybrané firmy

Namiesto verejného nasadenia Anthropic ponúka Claude Mythos Preview úzkemu výberu vyše 40 technologických firiem a bezpečnostných organizácií, vrátane gigantov ako Apple, Microsoft alebo Amazon. Tieto spoločnosti majú vedieť model využiť na obranné účely, ako napríklad prehľadávanie kódu kritických systémov, vyhľadávanie chýb a pomoc pri ich opravovaní ešte skôr, než by sa podobná AI dostala do rúk útočníkov. Firmy ho majú používať v kontrolovanom prostredí, a samozrejme, majú dávať dôraz na interný audit a monitorovanie využitia.

Spoločnosť Anthropic má vlastný Frontier Red Team a systém AI Safety Levels, kde už skôr označila napríklad Claude Opus 4 za model na úrovni ASL‑3. Táto úroveň razantne schopnosť používateľa získať citlivé informácie v oblastiach ako zbrane hromadného ničenia, a preto podlieha prísnejším interným ochranným opatreniam. Firma zároveň uvádza, že najsilnejšie modely sú chránené kombináciou rôznych technických bariér a organizačných pravidiel, ktoré sa majú s rastúcimi schopnosťami AI postupne sprísňovať.

Budúcnosť môže byť uzavretejšia

Prípad modelu Mythos každopádne ukazuje, že pri najvýkonnejších systémoch už časť odvetvia začína reálne uvažovať o modeloch len pre vybraných, a teda nie pre širokú verejnosť. To sa však v budúcnosti určite bude musieť potýkať s množstvom otázok bezpečnosti, nie len interne, ale aj pre bežných ľudí.