Папа Лев XIV в своей первой энциклике призвал «разоружить ИИ»

Папа Лев XIV в понедельник, 25 мая, представил свою первую энциклику под названием «Magnifica humanitas: о защите человеческой личности в эпоху искусственного интеллекта». «Главный выбор — это не выбор между «да» или «нет» технологиям, а скорее между строительством Вавилона или восстановлением Иерусалима», — написал он.

Папа Лев XIV. Фото: Simone Risoluti / Vatican Media via Vatican Pool / Getty Images

В своей первой энциклике понтифик призвал «разоружить» ИИ, чтобы оградить человечество от рисков, связанных с этой технологией. «Разоружить» — значит не отвергнуть технологии, а не допустить их господства над человечеством», — пояснил свою позицию Папа.

В своем программном обращении к Католической церкви Лев XIV также призвал освободить искусственный интеллект от монопольного контроля «лишь немногих транснациональных корпораций» и предостерег от использования этой технологии для достижения геополитических или коммерческих выгод, пишет Deutsche Welle.

Риск, по словам Папы, заключается в том, что люди будут сведены «к роли обычных винтиков в системе, направленной на все большую эффективность».

Папа Лев использовал два библейских образа, чтобы описать выбор, перед которым стоит человечество.

«Главный выбор — это не выбор между «да» или «нет» технологиям, а скорее между строительством Вавилона или восстановлением Иерусалима», — написал он.

В Библии Вавилонская башня символизирует грандиозный навязанный сверху проект, где решения принимаются под влиянием амбиций, ради прибыли любой ценой и который стремится всех сделать одинаковыми, пишет Папа в своем тексте. При восстановлении же Иерусалима разные люди работали вместе, чтобы отстроить разрушенные стены и вернуться к братскому сосуществованию, добавил Папа».

«Небольшие, но чрезвычайно влиятельные группы способны управлять информационными потоками и потребительским поведением, диктовать ход демократических процессов и воздействовать на экономическую динамику», — обратил внимание понтифик.

Поэтому, по его словам,

«крайне важно, чтобы внедрение ИИ — особенно в тех сферах, где речь идет об общественном благе и фундаментальных правах, — сопровождалось четкими критериями и эффективными защитными механизмами».

Папа предложил разработать «этический кодекс» для ИИ, основанный на критериях общей социальной справедливости, а также обеспечить регулирование процессов обработки пользовательских данных.

Однако, подчеркнул он, эти меры окажутся бесполезными, «если моральные рамки будут определяться только избранными».

Наблюдатели расценили это высказывание как критику в адрес американских технологических миллиардеров.

В своей энциклике Папа также резко раскритиковал «культуру силы», которая нормализует войну и поощряет перевооружение. Он призвал преодолеть теорию «справедливой войны» — доктрины, которая использовалась для оправдания глобальных конфликтов. Военная сила может применяться только для «самообороны в самом строгом смысле», уверен понтифик.

Лев XIV также предостерег от применения оружия на основе ИИ.

«Не существует алгоритма, способного сделать войну морально приемлемой», — подчеркнул он.

Комментарии к статье