Папа Лев XIV в понедельник, 25 мая, представил свою первую энциклику под названием «Magnifica humanitas: о защите человеческой личности в эпоху искусственного интеллекта». «Главный выбор — это не выбор между «да» или «нет» технологиям, а скорее между строительством Вавилона или восстановлением Иерусалима», — написал он.
В своей первой энциклике понтифик призвал «разоружить» ИИ, чтобы оградить человечество от рисков, связанных с этой технологией. «Разоружить» — значит не отвергнуть технологии, а не допустить их господства над человечеством», — пояснил свою позицию Папа.
В своем программном обращении к Католической церкви Лев XIV также призвал освободить искусственный интеллект от монопольного контроля «лишь немногих транснациональных корпораций» и предостерег от использования этой технологии для достижения геополитических или коммерческих выгод, пишет Deutsche Welle.
Риск, по словам Папы, заключается в том, что люди будут сведены «к роли обычных винтиков в системе, направленной на все большую эффективность».
Папа Лев использовал два библейских образа, чтобы описать выбор, перед которым стоит человечество.
«Главный выбор — это не выбор между «да» или «нет» технологиям, а скорее между строительством Вавилона или восстановлением Иерусалима», — написал он.
В Библии Вавилонская башня символизирует грандиозный навязанный сверху проект, где решения принимаются под влиянием амбиций, ради прибыли любой ценой и который стремится всех сделать одинаковыми, пишет Папа в своем тексте. При восстановлении же Иерусалима разные люди работали вместе, чтобы отстроить разрушенные стены и вернуться к братскому сосуществованию, добавил Папа».
«Небольшие, но чрезвычайно влиятельные группы способны управлять информационными потоками и потребительским поведением, диктовать ход демократических процессов и воздействовать на экономическую динамику», — обратил внимание понтифик.
Поэтому, по его словам,
«крайне важно, чтобы внедрение ИИ — особенно в тех сферах, где речь идет об общественном благе и фундаментальных правах, — сопровождалось четкими критериями и эффективными защитными механизмами».
Папа предложил разработать «этический кодекс» для ИИ, основанный на критериях общей социальной справедливости, а также обеспечить регулирование процессов обработки пользовательских данных.
Однако, подчеркнул он, эти меры окажутся бесполезными, «если моральные рамки будут определяться только избранными».
Наблюдатели расценили это высказывание как критику в адрес американских технологических миллиардеров.
В своей энциклике Папа также резко раскритиковал «культуру силы», которая нормализует войну и поощряет перевооружение. Он призвал преодолеть теорию «справедливой войны» — доктрины, которая использовалась для оправдания глобальных конфликтов. Военная сила может применяться только для «самообороны в самом строгом смысле», уверен понтифик.
Лев XIV также предостерег от применения оружия на основе ИИ.
«Не существует алгоритма, способного сделать войну морально приемлемой», — подчеркнул он.
Комментарии