Anthropic musel vypnúť prístup k modelom Fable 5 a Mythos 5 |
Americká vláda zrazu zakázala prístup zahraničným používateľom k novým modelom Antropicu.
Anthropic musel náhle vypnúť prístup k svojim najnovším AI modelom Claude Fable 5 a Claude Mythos 5. Dôvodom je exportná direktíva americkej vlády, ktorá zakazuje prístup zahraničným používateľom, firmám, vládam aj zahraničným občanom nachádzajúcim sa priamo v USA. Keďže by Anthropic nevedel jednoducho oddeliť všetkých používateľov podľa týchto pravidiel, prístup k modelom dočasne vypol celosvetovo.
Podľa dostupných informácií má byť zásah spojený s obavami z jailbreaku modelu Fable 5. Výskumníci Amazonu mali podľa WSJ otestovať sériu promptov, cez ktoré sa im podarilo obísť bezpečnostné filtre a získať informácie o niekoľkých bezpečnostných zraniteľnostiach. Anthropic však tvrdí, že nešlo o univerzálne prelomenie ochrany, ale len o úzky prípad, ktorý odhaľoval skôr jednoduchšie a už známe zraniteľnosti.
Firma rozhodnutie americkej vlády spochybňuje a hovorí o nedorozumení. Podľa Anthropic jej vláda neposkytla konkrétne technické detaily, ktoré by vysvetľovali rozsah národnobezpečnostného rizika. Zároveň dodáva, že model Fable 5 prešiel pred vydaním rozsiahlym testovaním s internými aj externými tímami vrátane americkej vlády a britského AI Safety Institute.
Situácia je zaujímavá aj preto, že Fable 5 bol len nedávno sprístupnený cez Amazon Bedrock a Claude Platform on AWS. Model mal priniesť schopnosti triedy Mythos širšiemu publiku, ale s prísnejšími bezpečnostnými filtrami. Mythos 5 bol naopak dostupný len úzkemu okruhu používateľov, hlavne pre pokročilejšie a citlivejšie scenáre.
Zásah ukazuje, že USA začínajú pristupovať k najvýkonnejším AI modelom podobne ako k strategickým technológiám. Doteraz sa exportné obmedzenia riešili hlavne pri čipoch, teraz sa však pozornosť presúva aj priamo na samotné modely a ich schopnosti. Pre firmy nasadzujúce tieto systémy v praxi to zároveň znamená nové riziko, keďže prístup k modelu môže zmiznúť prakticky zo dňa na deň.
Zároveň práve pre takéto praktiky sa teraz budú zahraničné firmy posúvať stále ďalej od všetkého amerického. Napríklad EU firmy si nemôžu byť isté, kedy americká vláda rozhodne, že k niečomu nemôžu mať prístup.
| NAJČÍTANEJŠIE ČLÁNKY TÝŽDŇA |
- RECENZIA: Gothic 1 Remake 98
- Blesk zničil hráčovi PC cez internetový kábel 59
- Alza rozbehla nové zľavy 39
- Stronghold 4 sa vracia ku koreňom série a príde do Early Access ešte tento rok 17
- Senua, bude pokračovaním Hellblade série, ale už plne akčná adventúra 33
- Metro 2039 ukázalo svoju hrateľnosť a naznačilo dátum vydania 35
- Recenzia na film Vládcovia vesmíru 9
- Polhodina hrateľnosti z Fable ukazuje život v Albione, vzťahy, rodinu aj dôsledky 50
- Ukážka hrateľnosti z racingovky Clutch 49
- Exodus dostal 20-minútovú ukážku 42 zobraziť viac článkov >
