В прошлом месяце, а именно 14 января, Ватикан, здесь мы под данным термином понимаем Римскую курию, или Святой престол, выпустил  Заявление об отношении к искусственному интеллекту (ИИ) – заявление под заголовком «Antiqua et nova» (с лат. «Древнее и новое»). В заявлении, как отмечалось в сообщении Ватиканского радио от 28 января текущего года, «рассматриваются перспективы и вызовы ИИ в таких областях, как образование, экономика, труд, здравоохранение, межличностные и международные отношения, контексты войны».

Заявление было выпущено от имени двух ватиканских учреждений – дикастерий (департаментов, или конгрегаций) Римской курии  — Дикастерии Вероучения (лат. Dicasterium pro Doctrina Fidei, англ. Dicastery for the Doctrine of the Faith) и Дикастерии культуры и образования (лат. Dicasterium ad culturam et educationem, англ. Dicastery for Culture and Education).

Далее в этом обзоре мы процитируем фрагменты из этого многостраничного заявления, а затем посмотрим на то, как его комментирует официальное СМИ Ватикана.

Заявление «Antiqua et nova» на официальном сайте Ватикана (здесь англоязычная версия, фрагмент).

В заявлении говорится (далее цитаты в нашем переводе по официальному англоязычному тексту на сайте Ватикана) vatican.va:

«С мудростью как древней, так и новой (ср. Мф. 13:52) мы призваны размышлять о современных вызовах и возможностях, создаваемых научными и технологическими достижениями, особенно недавним развитием искусственного интеллекта (ИИ). Христианская традиция рассматривает дар интеллекта как существенный аспект того, что люди созданы «по образу Божию» (Быт. 1:27). Исходя из целостного видения человеческой личности и библейского призыва «возделывать» и «хранить» землю (Быт. 2:15), Церковь подчеркивает, что дар человеческого интеллекта должен выражаться через ответственное использование разума и технических возможностей в управлении сотворенным миром.

Церковь поощряет развитие науки, технологий, искусств и других форм человеческой деятельности, рассматривая их как часть «сотрудничества мужчины и женщины с Богом в совершенствовании видимого творения». Как утверждает (древний автор ветхозаветной книги, признаваемой в католицизме Прим. Green.Obob.tv) Сирах, Бог «дал искусство человекам, чтобы прославился Он в чудесных делах Своих» (Сир. 38:6). Человеческие способности и творческие способности исходят от Бога и, если их правильно использовать, прославляют Бога, отражая его мудрость и благость. В свете этого, когда мы спрашиваем себя, что значит «быть человеком», мы не можем исключать рассмотрение наших научных и технологических способностей.

Именно в этом ракурсе здесь рассматриваются антропологические и этические проблемы, поднимаемые ИИ, — проблемы, которые особенно значимы, поскольку одной из целей этой технологии является имитация человеческого интеллекта, который ее спроектировал…

Можно задаться вопросом, как ИИ может быть понят в рамках Божьего плана. Чтобы ответить на этот вопрос, важно вспомнить, что научно-техническая деятельность не является нейтральной по своей природе, а является человеческим начинанием, которое задействует гуманистические и культурные измерения человеческого творчества…

Правильное понимание человеческого интеллекта не может быть сведено к простому приобретению фактов или способности выполнять определенные задачи. Вместо этого оно включает в себя открытость человека к конечным вопросам жизни и отражает ориентацию на Истину и Добро…

Хотя ИИ может имитировать аспекты человеческого мышления и выполнять определенные задачи с невероятной скоростью и эффективностью, его вычислительные способности представляют собой лишь часть более широких возможностей человеческого разума. Например, ИИ в настоящее время не может воспроизвести моральное различение или способность устанавливать подлинные отношения. Более того, человеческий интеллект находится в лично прожитой истории интеллектуального и морального формирования, которая фундаментально формирует точку зрения индивидуума, охватывая физические, эмоциональные, социальные, моральные и духовные измерения жизни. Поскольку ИИ не может предложить эту полноту понимания, подходы, которые полагаются исключительно на эту технологию или рассматривают ее как основное средство интерпретации мира, могут привести к потере оценки целого, отношений между вещами и потери более широкого горизонта понимания.

Человеческий интеллект в первую очередь не связан с выполнением функциональных задач, а с пониманием и активным взаимодействием с реальностью во всех ее измерениях; он также способен на удивительные прозрения. Поскольку ИИ не хватает богатства телесности, относительности и открытости человеческого сердца истине и добру, его возможности — хотя и кажутся безграничными — несопоставимы с человеческой способностью постигать реальность…

Между машиной и человеком только последний является по-настоящему моральным агентом — субъектом моральной ответственности, который осуществляет свободу в своих решениях и принимает их последствия.  Не машина, а человек находится в отношениях с истиной и добром, руководствуясь моральной совестью, которая призывает человека любить и делать то, что хорошо, и избегать зла, свидетельствуя об авторитете истины по отношению к высшему Благу, к которому тянется человеческая личность. Аналогично, между машиной и человеком только человек может быть достаточно самосознающим, чтобы прислушиваться к голосу совести и следовать ему, различая с благоразумием и стремясь к благу, которое возможно в любой ситуации.  На самом деле, все это также относится к использованию интеллекта человеком. Как и любой продукт человеческого творчества, ИИ может быть направлен на позитивные или негативные цели… Как и во всех областях, где люди призваны принимать решения, здесь также маячит тень зла. Там, где человеческая свобода допускает возможность выбора того, что неправильно, моральная оценка этой технологии должна будет учитывать, как она направляется и используется…

ИИ может внедрить важные инновации в сельское хозяйство, образование и культуру, улучшить уровень жизни целых наций и народов, а также способствовать росту человеческого братства и социальной дружбы, и, таким образом, использоваться для содействия целостному развитию человека». ИИ также может помочь организациям выявлять нуждающихся и противостоять дискриминации и маргинализации. Эти и другие подобные применения этой технологии могут способствовать развитию человека и общему благу.

Однако, хотя ИИ обладает множеством возможностей для продвижения блага, он также может препятствовать или даже противодействовать развитию человека и общему благу. Папа Франциск отметил, что «имеющиеся на сегодняшний день данные свидетельствуют о том, что цифровые технологии усилили неравенство в нашем мире. Не только различия в материальном богатстве, которые также значительны, но и различия в доступе к политическому и социальному влиянию». В этом смысле ИИ может использоваться для увековечения маргинализации и дискриминации, создания новых форм бедности, расширения «цифрового разрыва» и усугубления существующего социального неравенства.

Более того, концентрация власти над основными приложениями ИИ в руках нескольких влиятельных компаний вызывает серьезные этические проблемы. Усугубляет эту проблему изначальная природа систем ИИ, где ни один человек не может осуществлять полный надзор за обширными и сложными наборами данных, используемыми для вычислений. Это отсутствие четко определенной ответственности создает риск того, что ИИ можно будет манипулировать для личной или корпоративной выгоды или для направления общественного мнения в пользу определенной отрасли…

Кроме того, существует риск использования ИИ для продвижения того, что Папа Франциск назвал «технократической парадигмой», которая воспринимает все мировые проблемы как решаемые исключительно с помощью технологических средств.  В этой парадигме человеческое достоинство и братство часто откладываются в сторону во имя эффективности, «как будто реальность, добро и истина автоматически вытекают из технологической и экономической мощи как таковой»…

Следует всегда избегать ложного представления ИИ как личности; делать это в мошеннических целях является серьезным этическим нарушением, которое может подорвать общественное доверие. Аналогичным образом, использование ИИ для обмана в других контекстах — например, в образовании или в человеческих отношениях, включая сферу сексуальности — также следует считать безнравственным и требует тщательного надзора для предотвращения вреда, поддержания прозрачности и обеспечения достоинства всех людей.

В мире, который становится все более изолированным, некоторые люди обращаются к ИИ в поисках глубоких человеческих отношений, простого товарищества или даже эмоциональных связей. Однако, хотя люди предназначены для переживания подлинных отношений, ИИ может только имитировать их…

Хотя аналитические способности ИИ могли бы помочь странам в достижении мира и обеспечении безопасности, «вооружение искусственного интеллекта» также может быть весьма проблематичным. Папа Франциск заметил, что «способность проводить военные операции с помощью систем дистанционного управления привела к уменьшению восприятия разрушений, вызванных этими системами оружия, и бремени ответственности за их использование, что привело к еще более холодному и отстраненному подходу к огромной трагедии войны». Более того, легкость, с которой автономное оружие делает войну более жизнеспособной, противоречит принципу войны как последнего средства законной самообороны, потенциально расширяя инструменты войны далеко за пределы сферы человеческого надзора и ускоряя дестабилизирующую гонку вооружений с катастрофическими последствиями для прав человека…

Технологии предлагают замечательные инструменты для контроля и разработки мировых ресурсов. Однако в некоторых случаях человечество все больше уступает контроль над этими ресурсами машинам. В некоторых кругах ученых и футуристов существует оптимизм относительно потенциала искусственного интеллекта общего назначения (ИИО), гипотетической формы ИИ, которая будет соответствовать или превосходить человеческий интеллект и приведет к невообразимым достижениям. Некоторые даже предполагают, что ИИО может достичь сверхчеловеческих возможностей. В то же время, поскольку общество отдаляется от связи с трансцендентным, некоторые испытывают искушение обратиться к ИИ в поисках смысла или удовлетворения — стремлений, которые могут быть по-настоящему удовлетворены только в общении с Богом.

Однако предположение о замене Бога артефактом, созданным человеком, является идолопоклонством, практикой, против которой Писание явно предостерегает (например, Исх. 20:4; 32:1-5; 34:17). Более того, ИИ может оказаться даже более соблазнительным, чем традиционные идолы, поскольку, в отличие от идолов, которые «имеют уста, но не говорят; глаза, но не видят; уши, но не слышат» (Пс. 115:5-6), ИИ может «говорить» или, по крайней мере, создавать иллюзию того, что делает это (ср. Откр. 13:15). Тем не менее, важно помнить, что ИИ — это всего лишь бледное отражение человечества — он создан человеческим разумом, обучен на созданном человеком материале, реагирует на человеческий вклад и поддерживается человеческим трудом. ИИ не может обладать многими способностями, присущими человеческой жизни, и он также подвержен ошибкам. Обращаясь к ИИ и  воспринимая его «Другим», большим, чем он есть на самом деле, с которым якобы можно разделить существование и ответственность, человечество рискует создать замену Богу. Однако в конечном итоге в этом случае обожествляется и поклоняется не ИИ, а само человечество, которое, таким образом, становится рабом своей собственной работы».

Таковы некоторые выдержки из ватиканского Заявления «Antiqua et nova».

В упоминавшемся выше сообщении Ватиканского радио, посвященной Заявлению «Antiqua et nova» отмечается (цитируем по сайту русского вещания станции):

«Ватиканский документ («Antiqua et nova») подчёркивает, что ИИ – это всего лишь инструмент, выполняющий задачи, но не способный мыслить. Ему нельзя приписывать человеческие качества, поскольку он остаётся «машиной», ограниченной в логико-математической сфере. ИИ не обладает семантическим пониманием реальности, подлинной интуицией и творческими способностями. Он не способен к нравственному распознаванию или бескорыстному стремлению к истине, добру и красоте, вне всякой конкретной пользы. Всё это является сутью человеческой природы, которую ИИ не может воспроизвести…

Несмотря на прогресс в исследованиях и потенциальные сферы применения, ИИ остаётся машиной, не обладающей моральной ответственностью. Эта ответственность лежит на тех, кто его создаёт и использует. Поэтому в документе подчёркивается: необходимо, чтобы лица, принимающие решения с использованием ИИ, несли ответственность за свои действия, а сам процесс был прозрачным и подотчётным на всех этапах. Цели и средства применения ИИ должны оцениваться с точки зрения уважения к человеческому достоинству и продвижения общего блага. Это является основным этическим критерием, определяющим законность или незаконность использования ИИ», — отмечалось в сообщении ватиканской радиостанции.

Текст цитируемого здесь сообщения Ватиканского радио от 28 января с.г., посвященного Заявлению «Antiqua et nova», на сайте станции.