Папа Лев XIV, американский понтифик и математик по образованию, сделал регулирование искусственного интеллекта центральной темой своего первого года на престоле. В понедельник он опубликовал свою первую энциклику под названием «Magnifica Humanitas» («Величественное человечество») — документ объёмом 42 300 слов, призывающий к созданию моральных рамок для ИИ, которые защитят будущее человечества.
Публикация документа происходит в момент, который многие уже сравнивают с промышленной революцией по масштабу воздействия на труд и образ жизни. На фоне стремительного роста компаний вроде OpenAI и Anthropic папа называет ИИ «ценным инструментом, требующим бдительности» и бросает вызов концентрации власти в руках технологических гигантов.
Призыв «разоружить» искусственный интеллект
Одна из ключевых идей текста — это требование «разоружить ИИ». По словам понтифика, это не означает отказа от технологий, но подразумевает предотвращение их доминирования над человечеством. «Разоружить — значит дискредитировать предположение, что техническая мощь автоматически даёт право управлять», — пишет папа. Цель — освободить технологию от монополистического контроля, сделать её дружественной человеку и вернуть её многообразию человеческих культур.
Этика ИИ как общее дело
Энциклика обращена не только к технологическим компаниям или Католической церкви, а ко всему человечеству. Папа подчёркивает «равное достоинство всех людей» и «верховную ценность прав человека». Он предостерегает от того, чтобы позволить тем, кто контролирует ИИ, единолично диктовать этические рамки для управления технологией. Вместо этого этика ИИ должна соответствовать «разделяемым стандартам социальной справедливости» и открыто обсуждаться всеми людьми. «Более нравственный ИИ недостаточен, если эту нравственность определяют немногие», — утверждается в документе.
Риски для человеческих связей и суждений
Папа также высказывает опасения относительно того, как люди используют ИИ в повседневной жизни. Скорость и простота инструментов ИИ могут «поощрять чрезмерную зависимость и поиск готовых ответов, ослабляя личное творчество и способность к суждению». Он отмечает, что имитация ИИ позитивного человеческого общения иногда полезна, но для менее разборчивых пользователей она может вводить в заблуждение, создавая иллюзию отношений с реальной личностью. Особенно это рискованно в ситуациях, где не хватает реальных человеческих связей. Опасность, по его словам, заключается не столько в том, что человек поверит в общение с другим человеком, сколько в постепенной потере самого желания формировать подлинные человеческие связи.
Документ, вероятно, станет одним из ключевых текстов для политиков и технологических компаний, формирующих стратегии развития и регулирования ИИ в ближайшие годы.
