Nový AI model Claude Mythos je taký nebezpečný, že ho dostanú iba vybrané firmy |
Dokázal skladať reťazce nebezpečných exploitov.
Anthropic predstavil nový AI model Claude Mythos, ktorý označuje za svoj doposiaľ najrizikovejší systém a zámerne ho neplánuje sprístupniť bežným používateľom. Má totiž ísť však o významný skok v schopnostiach kybernetickej bezpečnosti a hľadania softvérových zraniteľností.
Mythos údajne dokázal samostatne odhaliť doteraz neznáme chyby v používaných knižniciach a dokonca poskladať reťazec exploitov, ktorý viedol k úplnému ovládnutiu systému. Bolo to tak napríklad v prípade Linuxu, kde sa dokázal dostať z úrovne bežného používateľa až na root úroveň, a teda získal plnú kontrolu nad systémom. Údajne táto kombinácia schopností, a teda pokročilá analýza kódu, generovanie exploitov a autonómne experimentovanie viedla firmu k záveru, že otvorené sprístupnenie modelu by predstavovalo veľké riziko pre kybernetickú infraštruktúru.
Model získajú vybrané firmy
Namiesto verejného nasadenia Anthropic ponúka Claude Mythos Preview úzkemu výberu vyše 40 technologických firiem a bezpečnostných organizácií, vrátane gigantov ako Apple, Microsoft alebo Amazon. Tieto spoločnosti majú vedieť model využiť na obranné účely, ako napríklad prehľadávanie kódu kritických systémov, vyhľadávanie chýb a pomoc pri ich opravovaní ešte skôr, než by sa podobná AI dostala do rúk útočníkov. Firmy ho majú používať v kontrolovanom prostredí, a samozrejme, majú dávať dôraz na interný audit a monitorovanie využitia.
Spoločnosť Anthropic má vlastný Frontier Red Team a systém AI Safety Levels, kde už skôr označila napríklad Claude Opus 4 za model na úrovni ASL‑3. Táto úroveň razantne schopnosť používateľa získať citlivé informácie v oblastiach ako zbrane hromadného ničenia, a preto podlieha prísnejším interným ochranným opatreniam. Firma zároveň uvádza, že najsilnejšie modely sú chránené kombináciou rôznych technických bariér a organizačných pravidiel, ktoré sa majú s rastúcimi schopnosťami AI postupne sprísňovať.
Budúcnosť môže byť uzavretejšia
Prípad modelu Mythos každopádne ukazuje, že pri najvýkonnejších systémoch už časť odvetvia začína reálne uvažovať o modeloch len pre vybraných, a teda nie pre širokú verejnosť. To sa však v budúcnosti určite bude musieť potýkať s množstvom otázok bezpečnosti, nie len interne, ale aj pre bežných ľudí.
| NAJČÍTANEJŠIE ČLÁNKY TÝŽDŇA |
- DOJMY: DOOM: The Dark Ages - Revelations 32
- Používatelia zisťujú, že Sony zmaže neaktívne PSN konto po troch rokoch a to aj s 222
- Sony končí s fyzickými hrami a internet reaguje: fastfoody aj komici si z toho rob 138
- Sony od roku 2028 skončí s fyzickými diskami pre PlayStation konzoly 338
- Čakáte na GTA VI? Tieto hry v otvorených svetoch si môžete zahrať pred návratom do 52
- Sony malo kedysi v príprave PlayStation 1 skrytý priamo v DualShocku 10
- PS6 a nový Xbox takmer určite nebudú mať diskové mechaniky 167
- Intel vraj zvažuje návrat starších procesorov, oživiť by mohol generácie až od Com 43
- Steam Machine hlási prvý „redline of death“ prípad, po 20 minútach malo zlyhať GP 90
- GOG reaguje na koniec PlayStation diskov: pripomína, že digitálne hry často nie sú 46 zobraziť viac článkov >
