Amazonu spôsobil AI kódovací bot 13-hodinový výpadok

V technologickom svete sa často hovorí o tom, ako umelá inteligencia zmení programovanie a zrýchli vývoj softvéru. Amazon, konkrétne jeho cloud, sa však  nedávno presvedčil o odvrátenej stránke tejto technológie. Interný AI agent, ktorý mal inžinierom pomáhať, spôsobil masívny, 13-hodinový výpadok systému.

AI si povedalo, vymažem to a vytvorím odznova

Všetko sa začalo v polovici decembra pri pokuse o opravu drobnej chyby v nástroji AWS Cost Explorer, ktorý zákazníkom slúži na sledovanie nákladov. Inžinieri nasadili na úlohu interný agentický nástroj s názvom Kiro. Na rozdiel od bežných chatbotov ide o agenta, čo znamená, že má právomoc samostatne vykonávať zmeny v systéme.

Kiro po analýze problému dospel k záveru, ktorý šokoval aj skúsených odborníkov. Namiesto jemnej úpravy kódu vyhodnotil, že najlepším kurzom akcie je „vymazať a znova vytvoriť celé prostredie“.

Keďže inžinieri udelili botovi vysoké oprávnenia na úrovni operátora a obišli štandardný proces schvaľovania kolegami (peer review), AI dostala zelenú. Výsledkom bolo zmazanie kritickej infraštruktúry a následný 13-hodinový kolaps služby pre zákazníkov.

Je za to zodpovedný AI alebo človek?

Oficiálne stanovisko Amazonu sa snaží situáciu zľahčovať. Spoločnosť incident označila za „chybu používateľa“, nie za zlyhanie umelej inteligencie. Argumentom je, že inžinieri nemali botovi dovoliť obísť bezpečnostné protokoly.

Analytici však upozorňujú na rozpor v tomto tvrdení. Ak by bola AI bezchybná, nepotrebovala by náhle zavedenie povinných revízií kódu a nové školiace programy, ktoré Amazon spustil hneď po incidente. Navyše nešlo o ojedinelý prípad - v posledných mesiacoch ide už o druhý podobný výpadok spojený s experimentovaním s AI agentmi.

Amazon tlačí na využívanie AI

Incident odhaľuje hlbší problém v kultúre technologických gigantov. Amazon agresívne tlačí na adopciu AI:

• Povinné kvóty: Až 80 % vývojárov v Amazone má povinnosť použiť AI pri kódovaní aspoň raz týždenne.
• Rýchlosť nadovšetko: Snaha o maximálnu automatizáciu vedie k obchádzaniu časovo náročných bezpečnostných kontrol.

Tento prípad je jasným mementom, že hoci AI dokáže písať kód rýchlosťou blesku, zatiaľ jej chýba kontext a schopnosť posúdiť riziká radikálnych riešení. Kým človek by pri drobnej chybe nikdy nezmazal celé dátové centrum, pre algoritmus to bola „logicky najčistejšia cesta“.

Pre firmy je to upozornenie - AI vás môže sabotovať. Ale už to mali vedieť, nie je to prvý prípad, kedy AI bot s príliš veľkými povoleniami vymazal to čo nemal, niektorým vývojárom sa stalo, že im vymazal aj disk.