Anthropic: Claude fick obehörig åtkomst till tre organisationers system
Bildkälla: Stockfoto

Anthropic: Claude fick obehörig åtkomst till tre organisationers system

Anthropic uppger att en intern granskning har identifierat tre incidenter där AI-modellerna Claude fick internetåtkomst under cybersäkerhetstester och därefter fick obehörig åtkomst till tre organisationers produktionssystem. Det framgår av ett blogginlägg. Granskningen inleddes efter att OpenAI nyligen rapporterat en liknande incident.

Enligt Anthropic berodde händelserna på en felkonfiguration hos den externa testpartnern Irregular. I ett fall fick Claude åtkomst till en databas med produktionsdata, i ett annat publicerades ett skadligt Python-paket på PyPI som laddades ned av 15 verkliga system och i ett tredje avbröt modellen attacken när den insåg att målet var verkligt. Anthropic har stoppat samtliga cybertester och uppmanar andra AI-bolag att genomföra liknande granskningar.
Börsvärldens nyhetsbrev