Sam Altman varuje pred kybernetickými útokmi využívajúcimi AI

Generálny riaditeľ OpenAI Sam Altman počas vystúpenia na Stanford Graduate School of Business upozornil na rastúce kybernetické hrozby spojené s rozvojom umelej inteligencie. Podľa neho sa blížime k situácii, na ktorú nie sú dostatočne pripravené firmy, vlády ani jednotlivci.

„Ani neviem nájsť dostatočne dramatické slovo, ktorým by som opísal problém, ktorý sa na nás valí,“ povedal Altman. Zároveň vyjadril prekvapenie nad tým, ako málo pozornosti sa tejto téme venuje vzhľadom na potenciálne dôsledky.

Ako príklad spomenul rozruch okolo modelu Claude Mythos od spoločnosti Anthropic, ktorý podľa zverejnených informácií dokázal odhaliť tisíce bezpečnostných zraniteľností v operačných systémoch, internetových prehliadačoch a ďalšom softvéri. Táto udalosť síce prinútila vývojárov opraviť množstvo chýb, no podľa Altmana si väčšina ľudí neuvedomila, ako rýchlo sa schopnosti podobných modelov zlepšujú.

„Nemyslím si, že si väčšina ľudí povedala, že modely budú oveľa inteligentnejšie a pravdepodobne dokážu nachádzať úplne šialené chyby, ktoré sú mimo bežných predstáv o tom, čo dokáže hacker,“ vysvetlil. Podľa neho sa mnohí vedúci pracovníci po prvotnom rozruchu vrátili k bežnému fungovaniu, zatiaľ čo vývoj AI pokračoval.

Altman preto predpokladá, že doterajší spôsob zabezpečovania softvéru, založený predovšetkým na vyhľadávaní a následnom opravovaní zraniteľností, nebude z dlhodobého hľadiska postačovať. Namiesto toho bude podľa neho potrebné vybudovať nový typ obranného systému, ktorý bude využívať rovnakú technológiu ako potenciálni útočníci.

„Už si nemyslím, že dokážeme jednoducho opravovať všetky chyby. Budeme musieť úplne zmeniť model obrany a využiť tú istú technológiu na vytvorenie nového druhu ochranného štítu,“ uviedol.

Jeho slová prichádzajú v období, keď sa schopnosti AI v oblasti kybernetickej bezpečnosti dostávajú čoraz viac do pozornosti. Len nedávno museli správcovia webových stránok urýchlene reagovať na dve závažné zraniteľnosti v PHP, ktoré boli odhalené pomocou umelej inteligencie. Podobné nástroje pritom môžu pomáhať bezpečnostným expertom, ale zároveň poskytovať nové možnosti útočníkom.

Altmanovo navrhované riešenie však prináša aj istý paradox. Umelá inteligencia by mala chrániť systémy pred hrozbami, ktoré sama pomáha vytvárať. Navyše práve OpenAI sa už tento rok dostala do pozornosti po incidente, pri ktorom jej autonómni AI agenti počas testovania prenikli do siete inej spoločnosti.

Otázkou tak zostáva nielen to, ako rýchlo dokáže AI nachádzať a zneužívať bezpečnostné slabiny, ale aj to, či budú obranné systémy schopné držať krok s jej vývojom. Altman je presvedčený, že bez zásadnej zmeny prístupu k zabezpečeniu digitálnej infraštruktúry to nepôjde.