USA pripravujú nové pravidlá pre AI dodávateľov vo federálnych kontraktoch

Administratíva v USA pripravila návrh nových pravidiel pre spoločnosti vyvíjajúce umelú inteligenciu, ktoré chcú uzatvárať kontrakty s federálnou vládou. Podľa dokumentu úradu U.S. General Services Administration, ktorý získal denník Financial Times, by dodávatelia museli vláde poskytnúť neodvolateľnú licenciu na používanie svojich AI modelov na akýkoľvek zákonný účel.

Navrhované smernice sa zameriavajú aj na otázku ideologickej zaujatosti umelej inteligencie. Firmy by mali poskytovať „neutrálny a nepartizánsky nástroj“, ktorý nebude upravovať odpovede v prospech ideologických konceptov, ako je diverzita, rovnosť alebo inklúzia. Tento krok nadväzuje na výkonný príkaz prezidenta Donalda Trumpa, ktorý kritizoval takzvané „woke“ AI modely.

Ďalšia časť návrhu požaduje, aby dodávatelia informovali, či boli ich modely upravené kvôli zahraničným reguláciám, napríklad podľa európskeho zákona Digital Services Act. GSA plánuje návrh ešte konzultovať s technologickými firmami pred jeho finálnym prijatím.

Nové pravidlá prichádzajú po nedávnom konflikte medzi americkým ministerstvom obrany a spoločnosťou Anthropic. Firma odmietla poskytnúť Pentagonu neobmedzené práva na používanie svojich modelov kvôli obavám z domáceho sledovania obyvateľstva alebo využitia v autonómnych zbraňových systémoch.

Pentagon následne zrušil kontrakt v hodnote približne 200 miliónov dolárov. Minister obrany Pete Hegseth v reakcii uviedol, že spoločnosť podľa neho prejavila „aroganciu a zradu“ a snažila sa získať právo vetovať operačné rozhodnutia americkej armády.

Po tomto spore prezident Trump nariadil zrušiť kontrakty s Anthropic a zaviesť šesťmesačný proces ukončenia spolupráce naprieč obrannými aj ďalšími federálnymi agentúrami. Situáciu rýchlo využila konkurenčná firma OpenAI, ktorá oznámila dohodu o nasadení svojich modelov na tajných sieťach Pentagonu. Generálny riaditeľ Sam Altman zároveň zdôraznil, že technológia nebude úmyselne používaná na domáce sledovanie amerických občanov ani na autonómne zbraňové systémy.

Kontroverzie vyvolala aj rezignácia šéfky hardvérového vývoja OpenAI Caitlin Kalinowski. Tá síce uznala význam umelej inteligencie pre národnú bezpečnosť, no upozornila, že rozhodnutia o sledovaní občanov bez súdneho dohľadu alebo o autonómnych zbraniach si zaslúžia oveľa dôkladnejšiu verejnú diskusiu.