Microsofts vd vill behandla avancerade AI-modeller som interna säkerhetsrisker
Techbjässen Microsofts vd Satya Nadella anser att avancerade AI-modeller måste hanteras som potentiella interna säkerhetsrisker när de får tillgång till känsliga uppgifter och affärskritiska system.
ANNONS
I ett inlägg på X framhåller Nadella att AI-modellers beslutsprocesser inte kan granskas på samma sätt som traditionell programvara. Därför måste organisationer behålla kontrollen över vilka uppgifter modellerna får tillgång till och vilka åtgärder de får utföra.
”Vi måste omge icke-deterministiska modeller med robust, deterministisk systemdesign, mänskliga kontrollmekanismer och tillförlitliga operativa rutiner samt etablera branschstandarder där de befintliga inte är tillräckliga”, skriver Nadella i ett inlägg på X.
Han förespråkar oberoende säkerhetskontroller, spårbarhet, kontinuerlig testning och möjlighet att omedelbart stoppa AI-system. Ingen enskild modell bör heller ensam ansvara för att verifiera sitt eget arbete.
Nadella efterlyser även branschstandarder för säkerhet och incidentrapportering. Grundprincipen är att skilja tillgången till AI-intelligens från befogenheten att styra dess handlingar.
Framväxten av AI har den senaste tiden fått flera tech-profiler att varna för att det går för fort däribland Bill Gates, Elon Musk, OpenAI-chefen Sam Altman och Anthropic-chefen Dario Amodei.
