Почему ИИ-компании заговорили о замедлении гонки

Вдруг неожиданно OpenAI, Anthropic, xAI и их руководители чуть ли не одновременно говорят, что нужно менять курс и замедлить темпы развития ИИ.

OpenAI откладывает IPO, а СЕО Anthropic вообще выпустил целую колонку на этот счёт. Что же вдруг произошло, что все вдруг начали беспокоиться о мире в одни выходные?

А дело в том, что за это лето резко ускорилось зарождение рекурсивного самоулучшения искусственного интеллекта. То есть сами ИИ помогают создавать ИИ, а механизмов безопасности нет.

Дарио Амодей, например, вообще говорит, что ИИ может нанести катастрофический ущерб уже через 6–12 месяцев. Ну а вообще вся эта апокалиптичная риторика действительно отвлекает от других, более важных проблем, а ещё это и отличная отмашка для инвесторов.