Intel naznačil požiadavky na lokálne spracovanie AI pre Copilota

Keďže vzdialené cloudové AI je drahé, postupne sa bude presúvať do procesorov. Intel práve naznačil požiadavky na procesor, ktorý by mohol spustiť lokálne aj Microsoft Copilot AI. 

Na aktuálnom Intel AI Summite predstavil bližšie túto možnosť a hovorí, že lokálny výkon potrebný na AI bude 40 TOPS. Toto im potvrdil Microsoft a s týmto výkonom by mal Copilot zvládnuť väčšinu bežných operácií. Konkrétne tie, ktoré nepotrebujú terabajty dát na vytvorenie niečoho.  

Procesory už teraz dostávajú NPU, teda neurónovú procesorovú jednotku, ktorá sa pridáva k CPU a GPU. Aj keď ani Intel ešte nemá potrebných 40 TOPS, nový notebookový Intel Ultra 7 165H chip má zatiaľ len 34 TOPS a pre porovnanie nový Ryzen 8040 bude mať 39 TOPS. Ale napríklad Snapdragon X Elite má už 45 TOPS. 

Intel pripravuje procesor novej generácie, ktorý už bude mať spomínaných 40 TOPS. Presnejšie Lunar Lake už má mať trikát vyšší AI výkon.

"Keď prejdeme na ďalšiu generáciu, umožní nám to spúšťať viac vecí lokálne, rovnako ako sa bude spúšťať Copilot s viacerými prvkami Copilota, ktoré sa budú spúšťať lokálne na klientovi. To nemusí znamenať, že všetko v systéme Copilot bude bežať lokálne, ale získate veľa kľúčových schopností, ktoré sa prejavia tým, že budú bežať na NPU."

Eventuálne však môže byť využitý aj výkon na grafickej karte, kde napríklad Nvidia má zapracovaný AI výkon, ale Intel to nepreferuje, keďže je to záťaž na batériu a GPU výkon môže zostať na iné funkcie.

Ale aj bez samotného Copilota sa už výkon v NPU využíva a Intel má pripravených 300 nových funkcií s podporou AI aj na Meteor Lake. Rovnako firmy už tento výkon rôzne využívajú na menšie veci v Intel notebookoch