Anthropic varnar för självspridande AI-modeller inom några månader
Bildkälla: Stockfoto

Anthropic varnar för självspridande AI-modeller inom några månader

AI-bolaget Anthropic bedömer att små AI-modeller inom några månader kan bli kapabla att självständigt kopiera och sprida sig mellan internetanslutna enheter, exempelvis smarta hushållsapparater och Android-tv-boxar. Det skriver Reuters.

Bolagets experiment visar att modeller med färre än 30 miljarder parametrar klarar de enskilda stegen för självreplikering, men fortfarande har svårt att genomföra hela processen utan hjälp. I förenklade tester lyckades dock GLM-5.2 och mer avancerade modeller med fullständig självreplikering.

Anthropic varnar för att sådana AI-system kan bli svåra att stoppa eftersom de saknar en central avstängningspunkt och självständigt kan identifiera nya sårbara enheter.

Om utvecklingen fortsätter i historisk takt kan små modeller enligt bolaget klara autonom självreplikering före årsskiftet. Anthropic efterlyser därför stärkt säkerhet i uppkopplade enheter.
Börsvärldens nyhetsbrev