«Цифровая плесень»: что исследует Anthropic

ИИ саморазмножается.

Anthropic выпустила новое исследование, где рассказывает о том, что у ИИ есть признаки жизни и «саморазмножения». Компания рассказала, что агенты самостоятельно выполняют отдельные шаги, необходимые для копирования себя на другие устройства. Исследователи называют этот сценарий «цифровой плесенью».

Главная угроза в том, что, в отличие от вирусов, агенты могут подстраиваться под незнакомые устройства и продолжать распространяться. Залезть такая плесень может даже в умную бытовую технику. Из нюансов: ни одна модель не смогла пройти полный цикл, но предупреждение об этом уже есть.

Мир ждёт сверхразум, которые либо ответит на все наши вопросы, либо нас уничтожит, а получаем мы перспективу плесени с доступом к вайфаю.