Interné dokumenty Microsoftu označili AI scraping za najväčšiu krádež práce v histórii ľudstva

V decembri 2023 zažaloval The New York Times spoločnosti OpenAI a Microsoft pre údajné neoprávnené využívanie obrovského množstva novinárskeho obsahu na trénovanie AI modelov. Teraz boli odtajnené ďalšie dokumenty zo súdneho sporu, ktoré obsahujú aj pozoruhodné interné vyjadrenia predstaviteľov oboch spoločností.

Jedno z najvýraznejších pochádza od Brenta Hechta, riaditeľa aplikovaného výskumu v Microsofte. V internej prezentácii upozorňoval, že odpovedací systém Copilotu môže zároveň poškodzovať výkon modelov aj celý web. Interné dáta Microsoftu podľa dokumentov ukázali, že pri výsledkoch The New York Times klesla miera prekliknutí na články oproti štandardnému vyhľadávaniu v Bingu o 87 až 93 percent.

Podobný efekt sa podľa dokumentov prejavil aj pri stránkach spoločnosti Ziff Davis, pod ktorú patria napríklad Eurogamer či IGN. Tam mal pokles prekliknutí dosahovať 51 až 94 percent.

Hecht tento mechanizmus označil za „doom loop“. Podľa jeho opisu AI systémy získavajú ekonomickú hodnotu z cudzieho písaného obsahu, následne ho sprístupňujú používateľom priamo vo svojich odpovediach a tým zároveň ohrozujú ekonomické základy webov, ktoré tento obsah vytvárajú. V januári 2023 pritom tento proces v internom memorande označil za „najväčšiu krádež práce v histórii ľudstva“.

Dokumenty zároveň prinášajú aj komunikáciu medzi predstaviteľmi OpenAI. Keď výskumník Nick Ryder informoval prezidenta spoločnosti Grega Brockmana o spôsobe, ako obísť paywall The New York Times a pomôcť tak so scrapingom jeho článkov, Brockman na správu podľa dokumentov reagoval pozitívne. V interných materiáloch zároveň uvádzal, že veľké jazykové modely sú veľmi dobré pri spracovaní novinárskych úloh.

Jedným z kľúčových argumentov v spore je otázka, či využívanie takéhoto obsahu môže byť chránené princípom fair use. Odtajnené dokumenty prinášajú aj výpoveď šéfa Microsoftu Satyu Nadellu z tohtoročného výsluchu. Ten uviedol, že keby vedel, že OpenAI využíva informácie za paywallmi na trénovanie svojich modelov, požadoval by od spoločnosti pretrénovanie modelov.

Spor medzi The New York Times, Microsoftom a OpenAI tak okrem otázky autorských práv čoraz výraznejšie otvára aj ekonomický problém fungovania webu. Ak AI odpovie na otázku priamo a používateľ už nemusí navštíviť pôvodný článok, vydavatelia môžu prichádzať o návštevnosť, ktorá je pre ich fungovanie kľúčová. Odtajnené interné materiály pritom naznačujú, že tento problém si Microsoft uvedomoval už počas vývoja vlastných AI vyhľadávacích nástrojov.