Meta je kritizovaná vlastným kontrolným orgánom za falošné AI videá na sociálnych sieťach

Meta čelí kritike za to, ako na Facebooku, Instagrame a Threads označuje realistický obsah vytvorený pomocou umelej inteligencie, tentoraz priamo od vlastnej Oversight Board. To je nezávislý orgán, ktorý Meta vytvorilo za účelom externej kontroly nad moderovaním obsahu. Rada vo svojom najnovšom rozhodnutí tvrdí, že súčasný systém nie je dostatočne silný na tempo šírenia falošných videí a obrázkov počas svetových konfliktov alebo kríz.

Ide o video s Izraelom

Impulzom bol konkrétny prípad syntetického videa, ktoré údajne zachytávalo škody v Izraeli. Aj keď sa video masívne šírilo na Meta platformách, firma odmietla zasiahnuť výraznejšie a obsah neoznačila ako rizikový AI materiál, aj keď vytváral dojem autentického záznamu z konfliktu. Oversight Board rozhodnutie zvrátila a prípad použila ako príklad, že pravidlá pre prácu s realistickým obsahom generovaným AI sú nejasné a uplatňujú sa nekonzistentne.

Rada upozorňuje, že Meta sa pri odhaľovaní podobných videí stále spolieha na nahlasovanie používateľmi a manuálne zásahy. Ďalším limitom je, že veľká časť umelo vytvoreného obsahu vzniká mimo infraštruktúry Meta a na platformy sa dostáva reuploadom, kde ho systémy automaticky nevedia rozpoznať.

Odporúčajú niekoľko zmien

Oversight Board preto odporúča sériu úprav. Navrhuje samostatný a jasný súbor pravidiel pre obsah vytvorený alebo upravený AI. Rovnako tlačí na širšie používanie výrazných viditeľných štítkov označujúcich AI pri materiáloch, ktoré svojou realistickou formou môžu ľudí ľahko uviesť do omylu.

Dôležitou témou je aj technický štandard C2PA, ktorý umožňuje vkladať do obrázkov a videí informácie o pôvode a úpravách. Meta je jeho súčasťou, avšak podľa rady tieto možnosti nevyužíva dôsledne ani pri vlastných AI výstupoch, čo samozrejme znižuje transparentnosť pre bežných používateľov. Hoci ide len o odporúčania, rozhodnutie zvyšuje tlak na firmu, aby ešte pred ďalšími veľkými volebnými cyklami a konfliktmi sprísnila technické aj vizuálne označovanie obsahu vygenerovaného umelou inteligenciou.