Anthropic musel vypnúť prístup k modelom Fable 5 a Mythos 5

Anthropic musel náhle vypnúť prístup k svojim najnovším AI modelom Claude Fable 5 a Claude Mythos 5. Dôvodom je exportná direktíva americkej vlády, ktorá zakazuje prístup zahraničným používateľom, firmám, vládam aj zahraničným občanom nachádzajúcim sa priamo v USA. Keďže by Anthropic nevedel jednoducho oddeliť všetkých používateľov podľa týchto pravidiel, prístup k modelom dočasne vypol celosvetovo.

Podľa dostupných informácií má byť zásah spojený s obavami z jailbreaku modelu Fable 5. Výskumníci Amazonu mali podľa WSJ otestovať sériu promptov, cez ktoré sa im podarilo obísť bezpečnostné filtre a získať informácie o niekoľkých bezpečnostných zraniteľnostiach. Anthropic však tvrdí, že nešlo o univerzálne prelomenie ochrany, ale len o úzky prípad, ktorý odhaľoval skôr jednoduchšie a už známe zraniteľnosti.

Firma rozhodnutie americkej vlády spochybňuje a hovorí o nedorozumení. Podľa Anthropic jej vláda neposkytla konkrétne technické detaily, ktoré by vysvetľovali rozsah národnobezpečnostného rizika. Zároveň dodáva, že model Fable 5 prešiel pred vydaním rozsiahlym testovaním s internými aj externými tímami vrátane americkej vlády a britského AI Safety Institute.

Situácia je zaujímavá aj preto, že Fable 5 bol len nedávno sprístupnený cez Amazon Bedrock a Claude Platform on AWS. Model mal priniesť schopnosti triedy Mythos širšiemu publiku, ale s prísnejšími bezpečnostnými filtrami. Mythos 5 bol naopak dostupný len úzkemu okruhu používateľov, hlavne pre pokročilejšie a citlivejšie scenáre.

Zásah ukazuje, že USA začínajú pristupovať k najvýkonnejším AI modelom podobne ako k strategickým technológiám. Doteraz sa exportné obmedzenia riešili hlavne pri čipoch, teraz sa však pozornosť presúva aj priamo na samotné modely a ich schopnosti. Pre firmy nasadzujúce tieto systémy v praxi to zároveň znamená nové riziko, keďže prístup k modelu môže zmiznúť prakticky zo dňa na deň.

Zároveň práve pre takéto praktiky sa teraz budú zahraničné firmy posúvať stále ďalej od všetkého amerického. Napríklad EU firmy si nemôžu byť isté, kedy americká vláda rozhodne, že k niečomu nemôžu mať prístup.