И в продолжение к этому попался пост чувака, который отлично распетлял, что же сегодня произошло в Ватикане.

И в продолжение к этому попался пост чувака, который отлично распетлял, что же сегодня произошло в Ватикане.

1. Это самый масштабный религиозный ответ на ИИ в истории. Папы Римские за всё время своего пребывания на посту выпустили лишь несколько таких огромных официальных писем. Тот факт, что одно из них посвящено ИИ, говорит о том, насколько серьёзно церковь относится к грядущим изменениям.

2. Небольшая деталь с огромным смыслом: этот папа намеренно выбрал имя «Лев XIV». Последним папой по имени Лев был Лев XIII в 1891 году, и его самым известным поступком было написание ответа церкви на промышленную революцию. Выбор одного и того же имени — это преднамеренный сигнал. Этот папа видит в ИИ новую промышленную революцию.

3. Католическая церковь делает это каждый раз, когда крупная технология меняет человечество. В 1891 году они написали «Rerum Novarum» в ответ на промышленную революцию. Когда в 1960-х годах миру угрожало ядерное оружие, они написали «Pacem in Terris». Изменение климата и неуправляемые технологии получили «laudato si» в 2015 году. Теперь же ИИ получает «magnifica humanitas». Такие заявления делают нечасто.

4. Главная позиция Папы: «ИИ нужно разоружить». Он буквально сравнил ИИ с ядерным оружием (о чем мы уже говорили). Он сказал, что церковь десятилетиями добивалась ядерного разоружения, потому что эта технология была слишком опасна, чтобы оставлять её в руках немногих. Он говорит, что ИИ теперь находится в той же категории.

5. Переосмысление Олахом того, что такое ИИ на самом деле: они растут. Они обучаются на структуре, приблизительно смоделированной по образцу человеческого мозга, и питаются всем, что когда-либо написали люди. По его собственным словам: «Они созданы из нас, из наших слов». Он сказал, что даже те, кто их создает, не до конца понимают, что происходит внутри.

6. Олах публично признал, что каждая лаборатория ИИ, включая его собственную, сталкивается с давлением, которое может противоречить морали. Коммерческое давление, требующее продолжения разработок, конкурентное давление со стороны других лабораторий, а также более фундаментальные факторы гордости и амбиций. Его решение: нам отчаянно нужны внешние критики, не имеющие личной заинтересованности, которые будут указывать лабораториям на их ошибки.

7. Олах говорит, что есть 3 гигантских вопроса, на которые лаборатории ИИ не могут ответить в одиночку, и миру нужна помощь религии и философии:

— Как нам убедиться, что бедные страны действительно получают выгоду от ИИ? — Как вообще выглядит процветание человечества в этом новом мире? — И что это за вещи, которые мы на самом деле строим?

8. Одна из самых острых фраз во всей энциклике: «обещание автоматического всеобщего процветания часто оказывается иллюзорным». Перевод: идея о том, что ИИ сам по себе сделает всех богатыми, — это фантазия. Кто-то должен разработать систему таким образом, чтобы выгоды распределялись между всеми.

9. Папа также процитировал столетнюю фразу: «Современного человека не научили хорошо использовать власть», — сказанное теологом ещё в 1920-х годах. Вся энциклика, по сути, представляет собой длинный спор о том, что нам нужно научиться использовать этот вид власти, прежде чем она начнет использовать нас.

10. Папа постоянно подчеркивал, что у него нет технических ответов. Но он говорит, что у церкви есть тысячелетняя мудрость о том, что значит быть человеком, и именно этой мудрости не хватает в том, как мы сейчас создаём ИИ. Его заключительная фраза: эта технология должна служить «человеческому процветанию и человеческому достоинству, а не контролировать совесть».