Anthropic varnar för självspridande AI-modeller inom några månader
AI-bolaget Anthropic bedömer att små AI-modeller inom några månader kan bli kapabla att självständigt kopiera och sprida sig mellan internetanslutna enheter, exempelvis smarta hushållsapparater och Android-tv-boxar. Det skriver Reuters.
ANNONS
Bolagets experiment visar att modeller med färre än 30 miljarder parametrar klarar de enskilda stegen för självreplikering, men fortfarande har svårt att genomföra hela processen utan hjälp. I förenklade tester lyckades dock GLM-5.2 och mer avancerade modeller med fullständig självreplikering.
Anthropic varnar för att sådana AI-system kan bli svåra att stoppa eftersom de saknar en central avstängningspunkt och självständigt kan identifiera nya sårbara enheter.
Om utvecklingen fortsätter i historisk takt kan små modeller enligt bolaget klara autonom självreplikering före årsskiftet. Anthropic efterlyser därför stärkt säkerhet i uppkopplade enheter.