ИИ стал оружием уже сейчас.

ИИ стал оружием уже сейчас.

Редакция канала «Лобушкин» уже давно говорит о том, что ИИ стал частью гонки вооружений. ИИ применяется, чтобы наносить удары, анализировать поле боя в режиме реального времени, а компании вроде Palantir выпускают откровенно техно-фашистские манифесты. Всё это говорит нам о том, что эта гонка уже идёт, и она очень схожа с гонкой за ядерным оружием.

Мы тут наткнулись на статью консультанта компании Anthropic Майкла Салмейера в Foreign Affairs, и там он очень подробно пишет о том, как ИИ повлияет на международные отношения.

Один из важнейших тезисов — это аналогия с появлением ядерного оружия. Салмейер думает, что государства начнут принимать решения не на основании реальных возможностей противника, а исходя из предположения, что противник уже обладает ИИ, способным проникнуть в критическую инфраструктуру. Это порождает страх перед возможностями, что становится одним из факторов международной политики. То есть теперь страны находятся в постоянной неопределённости, и именно она повышает риски разного рода эскалации.

Если мы воспринимаем эту оценку как правдивую (а мы это видим наглядно), то революция вооружения уже идёт вовсю. Государства получают в распоряжение передовые модели, которые быстрее людей хакеров взламывают системы за считаные часы. Оставить вражескую страну без электричества, воды, парализовать транспорт. Именно такие возможности даёт искусственный интеллект. Получается, что не нужны ни дроны, ни бомбы, вернее они не нужны на первых этапах.

Мы видим, как через открытые модели показывают свою мощь США и Китай. То китайцы пытаются украсть модель американцев, то наоборот. Для мировой безопасности эта гонка будет иметь последствия. Как минимум экономические, потому что уже сейчас необходимо существенно модернизировать критическую инфраструктуру.

Кроме этого, появляется зависимость. Технологическая революция несёт угрозу именно для союзников бенефициаров развития. Страны, которые недостаточно сильны для создания собственных моделей, будут вынуждены закупать чужие модели для безопасности.

Мы всё чаще сейчас читаем про фрагментацию мира от разного рода антиглобалистов, но на деле же мы имеем новый виток глобализации. Тот, кто этого не понимает, отстал минимум на 20 лет и не понимает этого. Тут всё очень просто: для развития своих моделей на качественном уровне нужны данные, серверы и специалисты, а ведь это всё история про обмен знаниями. В противном же случае, выбор автоматически падёт на зависимость. Знаете, что в этом самое забавное? Теперь ядерное оружие уже не звучит как что-то, что сдержало бы войну.

А вот заявления Anthropic и OpenAI о том, что их ИИшки сбежали в интернет и начали взламывать всё подряд, всё больше начинают напоминать демонстрацию силы, и они действительно устрашают.