Anthropic утверждает, что забанила несколько аккаунтов, пытавшихся создать биологическое оружие с помощью Claude.
Всего компания раскрыла пять случаев. В них описывается, как пользователи с научной подготовкой обходили защитные механизмы и запрашивали информацию, которую потенциально можно применить при разработке биологического…
Anthropic утверждает, что забанила несколько аккаунтов, пытавшихся создать биологическое оружие с помощью Claude.
Всего компания раскрыла пять случаев. В них описывается, как пользователи с научной подготовкой обходили защитные механизмы и запрашивали информацию, которую потенциально можно применить при разработке биологического оружия.
Аккаунты были связаны с пользователями из России, Китая и Ирана. При этом в компании подчёркивают, что установить злонамеренность намерений нельзя, потому что эти же знания могут использоваться для создания вакцин, но на всякий случай аккаунты были заблочены.
Здесь мы опять возвращаемся к дискуссии о том, что из-за отсутствия регуляции, лицензий и прочих всяких интересных штук ваш аккаунт блокируется. ИИ-компания теперь принимает решения, какие научные исследования можно продолжать. В целом справедливо, и это исключительно вопрос регуляции.