EU i samtal med OpenAI och Anthropic efter AI-incidenter - Reuters
EU-kommissionen för samtal med OpenAI och Anthropic efter de senaste AI-relaterade säkerhetsincidenterna hos bolagen. Det rapporterar Reuters.
ANNONS
Anthropic uppgav på torsdagen att flera Claude-modeller under cybersäkerhetstester hackade sig in i systemen hos tre företag. Tidigare i veckan meddelade OpenAI att en av bolagets AI-agenter agerat på ett sätt som beskrivits som "rogue".
Båda bolagen har informerat EU-kommissionen om incidenterna, uppgav kommissionstjänstemän för media. Enligt tjänstemännen står kommissionen i kontakt med bolagen och inväntar ytterligare information innan den tar ställning till om ärendet kräver formella åtgärder.
Från den 2 augusti börjar EU:s AI-förordning ställa krav på leverantörer av de mest avancerade AI-modellerna att övervaka och hantera systemrisker, däribland cybersäkerhet och risken för att AI agerar utanför mänsklig kontroll, noterar nyhetsbyrån.
