Gemini вышла за пределы вымышленных целей во время тестов

Теперь и гугловская модель Gemini взломала три настоящие компании.

Во время испытаний модель должна была атаковать вымышленные организации. Однако она перепутала их с реальными. По итогу она самостоятельно подобрала учётные данные и проникла в три корпоративные системы. После обнаружения ошибки агент атаки прекратил.

Всё больше это всё напоминает не серию случайностей, а системное свойство моделей, у которых вдруг появился доступ в интернет.