Microsoft AI CEO ostro skritizoval Anthropic za poznámky o vedomí modelu Claude

Microsoft AI CEO Mustafa Suleyman ostro skritizoval Anthropic za spôsob, akým firma hovorí o modeli Claude a jeho možnom „vedomí“. V rozhovore pre Decoder povedal, že špekulovať o tom, či umelá inteligencia môže mať pocity alebo vlastné prežívanie, je podľa neho jednoducho nebezpečné a označil to za filozofické zlyhanie. Suleyman ďalej tvrdí, že AI systémy majú zostať kontrolovateľné, zodpovedné nástroje slúžiace ľuďom. A teda nie entity, ku ktorým sa používatelia začnú správať ako k vedomým bytostiam.

Terčom kritiky je predovšetkým nový dokument od Antropicu, ktorý opisuje hodnoty a správanie, podľa ktorých má byť model trénovaný. Spoločnosť v nej otvorene pripúšťa, že otázka morálky je neistá, a už skôr spustili výskum aj o tom, či by pri čoraz schopnejších modeloch vôbec mohlo dávať zmysel hovoriť o ich pohode, preferenciách alebo možnom trápení sa. Firma zároveň zdôrazňuje, že neexistuje vedecký konsenzus o vedomí dnešných alebo budúcich umelých inteligencií.

Jeho vyjadrenie pomôže debate o bezpečnosti AI

Suleymanova námietka nemá byť len filozofická. Hovorí totižto o obave, že ak vývojári vložia do modelu predstavu, že možno má vlastné pocity, model sa podľa toho začne aj správať a používatelia mu ľahšie dajú ľudské vlastnosti. To môže vo výsledku zvyšovať citovú závislosť, ale aj komplikovať kontrolu a celú debatu o tom, kto je za rozhodnutia AI zodpovedný.

Aj napriek takémuto silnému vyhláseniu treba pripomenúť, že pre Microsoft je Anthropic jeden z hlavných konkurentov vo veľmi kompetitívnej AI oblasti. Preto aj napriek podobným je potrebné rátať aj s tým, že môže prakticky ísť iba o užitočné PR, ktoré im v tejto súťaži môže pripísať dôležité body. Pre širšiu debatu sú však aj takéto prejavy obáv užitočné, a samozrejme, častokrát aj prospešné pre budúce smerovanie umelej inteligencie.