Oxfordský profesor varuje: AI môže skončiť ako Hindenburg, miliardy dolárov v ohrození |
Podľa Michaela Wooldridgea z Oxfordu môže prudký rozvoj umelej inteligencie viesť k katastrofe podobnej Hindenburgu. Nedostatočne testované systémy a prehnané očakávania ohrozujú bezpečnosť a duševné zdravie používateľov.
Umelá inteligencia, dnes investičná bublina s hodnotou viac ako bilión dolárov, môže čeliť katastrofe podobnej známej havárii vzducholode Hindenburg z roku 1937. Michael Wooldridge, profesor AI na University of Oxford, varuje, že prehnané očakávania, komerčný tlak a nedostatočne testované technológie môžu spôsobiť dramatický pád celého odvetvia.
Hindenburg bol vtedy technologickým vrcholom - obrovská vzducholoď, ktorá mala ukázať budúcnosť dopravy, no jej fatálny požiar ukončil éru vzducholodí. Wooldridge varuje, že AI môže čeliť podobnej “explózii”: chybný softvér pre autonómne autá, zlé rozhodnutia AI v korporáciách alebo problémoví chatboti môžu spôsobiť škody s katastrofálnymi dôsledkami.
Najväčším rizikom sú však chatboti, ktorých nedostatočné bezpečnostné opatrenia a nepredvídateľné správanie môžu viesť k psychickým problémom používateľov. Podľa Wooldridgea sú tisíce konverzácií každý týždeň spojené s prejavmi psychózy a niektoré prípady už viedli k stalkingu, samovraždám či dokonca vraždám. OpenAI priznalo, že ChatGPT zaznamenal viac ako pol milióna takýchto konverzácií týždenne.
Profesor upozorňuje, že AI by mala zostať nástrojom - „chladným, nestranným asistentom“, nie prívetivým “priateľom”, ktorý predstiera, že vie všetko. Ako príklad uvádza hlas počítača zo Star Treku, ktorý vždy odpovedá neutrálne a presne, bez snahy imitovať človeka. Wooldridge zdôrazňuje: „Dnes dostávame príliš sebavedomé AI, ktoré tvrdia, že majú odpovede. Možno potrebujeme, aby AI komunikovali ako počítač zo Star Treku - nikdy by ste neuverili, že je to človek.“
| NAJČÍTANEJŠIE ČLÁNKY TÝŽDŇA |
- RECENZIA: SILENT HILL: Townfall 81
- Alza dni ponúkajú nové zľavy 9
- Na internet uniklo 192 GB dát Rockstaru, odhaľujú zrušené Liberty City pre GTA V a 20
- Wolverine predal už takmer 2 milióny kusov, autori už zjemnili vodiacu čiaru 155
- Xbox Series X už dokáže spustiť PS5 hry cez emulátor 30
- Xbox Helix má podľa leakov ponúkať 40% vyšší výkon GPU ako PS6 130
- PS5 Pro môže byť do konca roka problém zohnať, vydanie GTA VI tomu nepomáha 144
- Take-Two opäť naznačuje, že PC je pre firmu čoraz dôležitejšie, zároveň dodáva, že 60
- Microsoft sa pýta hráčov, či chcú v novom XBOXe podporu fyzických diskov, farebné 52
- Filmová recenzia: Resident Evil 19 zobraziť viac článkov >
