Microsoft v novom dokumente tvrdí, že na ľuďoch záleží viac ako na AI

Microsoft predstavil návrh 37-stranového etického kódexu, ktorý má v budúcnosti určovať, ako sa budú vyvíjať a správať AI modely vytvorené divíziou Microsoft AI. Hlavnou myšlienkou je, že ľudia musia zostať nadradení umelej inteligencii a nad jej fungovaním si zachovať zmysluplnú kontrolu.

Zatiaľ ale nejde o hotové pravidlá, podľa ktorých sa dnešné modely Microsoftu trénujú. Firma dokument zverejnila na verejnú konzultáciu, a chce tak zbierať spätnú väzbu a upravenú verziu vydať do konca roka. Vývoj modelov od Microsoft AI má finálny dokument ovplyvniť od roku 2027.

Modely nemajú mať vlastné vedomie a blahobyt

Microsoft v návrhu odmieta predstavu AI ako samostatnej bytosti. Modely podľa neho nie sú vedomé a nemali by byť navrhované tak, aby vedomie napodobňovali. Firma odmieta aj myšlienku, že by umelá inteligencia mala získavať právnu subjektivitu, vlastné práva alebo aby bolo potrebné riešiť jej „blahobyt“ v akomkoľvek zmysle. V tomto smere sa Microsoft názorovo odlišuje od Anthropicu, ktorý otázku možného vedomia pokročilých modelov poslednou dobou skúma oveľa otvorenejšie.

Jedným z hlavných pravidiel je, že AI má zostať pod ľudskou kontrolou aj za cenu horšej kvality produktu ako takého. Ak by splnenie úlohy vyžadovalo porušenie bezpečnostných pravidiel, model ju má radšej nedokončiť. Spoločnosť dokonca tvrdí, že nechce pretekať za univerzálnou superinteligenciou, pokiaľ by väčšia autonómia znamenala horšiu kontrolovateľnosť systému.

Umelá inteligencia nemá podporovať emocionálnu závislosť

Pravidlá sa venujú aj bežnému kontaktu s používateľmi. Modely nemajú podporovať nadmernú emocionálnu závislosť ani používateľovi automaticky pritakávať len preto, aby ho potešili. Komunikácia medzi AI agentmi má zároveň zostať dostatočne zrozumiteľná a monitorovateľná.

Microsoft sa tak snaží stanoviť hranice skôr, než sa podobné systémy stanú výrazne samostatnejšími. Posledné kroky technologického giganta sa z časti dajú brať za akýsi odklon. Bolo to predsa len iba pred rokom, keď Microsoft prepustil vyše 9000 zamestnancov, a jeden z vedúcich pracovníkov firmy im odporúčil práve AI na psychologickú konzultáciu behom tohto náročného obdobia. Uvidíme teda, či sa budúca morálna stratégia Microsoft AI divízie osvedčí.