Anthropic bude pomocou AI kontrolovať bezpečnosť open source projektov

Anthropic spúšťa novú službu OSS Scanner, ktorá má pomocou umelej inteligencie pravidelne kontrolovať open source projekty a hľadať v ich kóde bezpečnostné zraniteľnosti. Pre niektoré oprávnené projekty bude služba dokonca bezplatná.

Tento skener využíva najvýkonnejšie modely Anthropicu vrátane Claude Mythos. Po nájdení potenciálnej chyby má správcom poslať správu, kde je daný problém vysvetlený detailne. Zároveň im ponúkne ukážku zneužitia, a podľa možností aj návrhy opráv. Kontroly sa budú opakovať pravidelne, takže nejde iba o jednorazový bezpečnostný audit.

Služba bude dostupná bez ľudského zásahu

Dôležitý je ale fakt, že výsledky OSS Scanneru nebude pred odoslaním kontrolovať človek. Spoločnosť tým chce nálezy dostať k vývojárom rýchlejšie, ale zároveň priznáva, že niektoré hlásenia môžu byť nepresné. Môže sa teda stať, že systém nesprávne vyhodnotí závažnosť chyby alebo jednoducho nepochopí bezpečnostný model konkrétneho projektu. Firma ale očakáva, že viac než 90 percent nálezov bude reálne užitočných.

Práve preto služba nie je určená úplne každému. Anthropic ju odporúča najmä projektom, ktoré majú dostatočný tím ľudí na preverovanie väčšieho množstva hlásení. Naopak menším projektom chce firma naďalej posielať nálezy až po ľudskej kontrole, aby ich zbytočne nezaplavila falošnými upozorneniami.

OSS Scanner berie skúsenosti z projektu Glasswing, v rámci ktorého Anthropic v posledných mesiacoch testoval Claude pri hľadaní podobných zraniteľností. Nová služba má teda tento prístup rozšíriť a posunúť o niečo ďalej.