Тема искусственного интеллекта сегодня является одной из самых обсуждаемых. В современном мире, искусственный интеллект составляет одно из наиболее перспективных направлений в развитии современных технологий, эти технологии развиваются беспрецедентными темпами.

Есть мнение, что актуальность этой темы спровоцированная, навязанная, а угрозы и вызовы мифичны. Этого нельзя исключить. Однако влияние или, точнее, – потенциальное влияние искусственного интеллекта на общество огромно. Скорее всего тот, кто в XXI веке будет занимать лидирующее положение в его разработке, тот будет определять перспективы во многих сферах жизни: экономике, образовании, медицине, военном деле и т.п. Здесь мы сразу хотим уточнить: искусственный интеллект — это не локальное изобретение, и не отдельное направление, а масштабный «интеллектуальный слой», который вбирает в себя (или может вобрать) огромное множество других технологических отраслей делая их «умными» и автономными. В этой связи, можно предположить, что искусственный интеллект, скорее всего, затронет очень многие аспекты личной и социальной жизни. И наша задача заключается в том, чтобы определить возможные опасности этих внедрений с тем, чтобы избежать апокалиптические сценарии данного витка технологической эволюции.

С самых общих позиций нам видится два актуальных аспекта возможных вызовов, связанных с развитием и внедрением ИИ. Условно, эти направления можно назвать «светским» и «церковным». В области «светских» вызовов наиболее значимой представляется возможность угроз национальной безопасности, угроз суверенитету нашему Отечеству. С другой стороны, в сфере «церковной» нам видится важным рассмотрение влияний на церковную жизнь, влияние на одну из главнейших задач Церкви – спасение душ человеческих. Однако, учитывая особенности Российской истории, особенности наших традиционных национальных ценностей, мы можем сказать, что оба направления вероятных вызовов технологий ИИ, связаны и взаимообусловлены. Но в данном докладе мы сделаем акцент на духовной и церковной составляющей этих угроз.

Напомним, что несмотря на теоретически предсказанную эффективность информационных методов, во многом основанных на исследованиях реальных нейросетевых конструкций мозга, технологии искусственного интеллекта долго переживали так называемое состояние «зимы». Существенный прорыв наметился, когда элементная база в достаточной мере позволила реализовать некоторые основополагающие нейросетевые вычислительные принципы, а также когда архитектура искусственных нейросетей достигла определенного уровня. Отметим, что, по оценке специалистов, до технических пределов здесь еще очень далеко. И это понятно: если вещественный мозг, деятельность которого основана на физико-химических процессах совершает сложнейшие информационные преобразования, значит, теоретически возможно воспроизведение или, по крайней мере, приближение к этим процессам, осуществление этих информационных преобразований. Одним словом, развитие продолжается.

Зададимся вопросом: каково общее направление этого развития, какие задачи ставятся разработчиками искусственного интеллекта? Сегодня тренд развития «умных технологий» характеризуется фундаментальным переходом от экспериментов к глубинной интеграции во все сферы жизни. Если предыдущие годы были временем больших языковых моделей, то сегодня главный вектор — превращение ИИ в эффективный и осязаемый инструмент для общества. Можно выделить несколько ключевых направлений этого развития.

Технология смещается от простого общения к активным действиям: разрабатывается и повсеместно внедряется так называемый агентный искусственный интеллект. В отличие от традиционных чат-ботов, которые лишь отвечают на вопросы, ИИ-агенты способны самостоятельно выполнять сложные, не четко сформулированные, многоступенчатые задачи. То есть, идет ориентация на разработку автономных систем, способных принимать решения и выполнять задачи без вмешательства человека. Эти независимые системы (агенты) будут автоматически реагировать на изменяющиеся условия, обеспечивая достижение цели. Агентное управление процессами — это подход, при котором задачи выполняется не по жесткой инструкции, а через взаимодействие множества самостоятельных «разумных» агентов, каждый из которых отвечает за свою функцию и сам решает, когда и как ее выполнить для достижения общего результата. Это делает систему очень гибкой и, соответственно, эффективной.

Дальнейшим развитием этой идеи становятся мультиагентные системы, где целые команды таких агентов взаимодействуют друг с другом, распределяя задачи и выступая в роли «цифрового штата» сотрудников. Эксперты прогнозируют, что уже через несколько лет такие агенты станут основой для многих производств. Искусственный интеллект перестает быть только цифровым феноменом, ограниченным виртуальной средой, но активно интегрируется с физическими объектами. 

В этой связи возникло понятие «физический искусственный интеллект» — это технология, которая объединяет искусственный интеллект с физическими системами, например, с роботами, дронами, автономными автомобилями. В отличие от традиционных ИИ-моделей, физический ИИ способен воспринимать физические объекты, воспринимать окружающую среду, оценивать контекст и адаптироваться к меняющимся условиям, учиться на собственном опыте и адаптировать свое поведение в реальном времени, а не просто следовать жестким программам. Особенность физического ИИ - универсальность: вместо создания узкоспециализированных алгоритмов для каждого робота разрабатывается «общий интеллект», который можно переносить на разные платформы. Один и тот же ИИ будет способен управлять промышленным манипулятором, складским дроном или гуманоидным помощником.

Особое внимание уделяется развитию гуманоидных роботов, которые, по некоторым прогнозам, к 2035 году могут занять более 2 миллионов рабочих мест. Кроме того, ИИ начинает лучше понимать человеческие эмоции, идут разработки так называемого социального ИИ, что уже находит применение в голосовых помощниках и службах поддержки.

Резюмируя этот небольшой обзор, мы видим, что, в целом, технологии ИИ направлены на все более эффективное воспроизведение человеческих функций, которые так или иначе тесно связаны с личностным аспектом нашей жизни. То есть разработчики взяли курс на очеловечивание машин. Уточним, это не каприз разработчиков и не футурологический прогноз с нашей стороны — это реальные тенденции развития искусственного интеллекта, обусловленные желанием получать все более эффективные инструменты удовлетворения нарастающих потребностей. Эффективные и удобные инструменты предполагают их автономность и в пределе, как следствие автономности, их субъектность. Человек начал с примитивного молотка и стремится к созданию «умного» и инициативного помощника, способного ставить цели, иногда ошибаться, но учиться и договариваться, потому что только такое «почти субъектное существо» способно справиться со сложными жизненными задачами.

Мы не оправдываем эти тенденции, мы подчеркиваем их реальную обусловленность. В итоге: человечество, развивая технологии ИИ неизбежно будет стремиться к искусственной субъектности. Однако отметим: разработчикам не нужна искусственная субъектность как таковая, но они неизбежно к ней приходят как к условию создания эффективных машин для решения сложных не алгоритмизируемых задач. Об этом тренде свидетельствует весь предыдущий опыт развития ИИ.

По этому поводу существует множество скептических мнений. Специалисты в области информационных технологий и квалифицированные юристы отказываются в серьез воспринимать возможность личностных, агентных свойств искусственного интеллекта. Да, сейчас так и есть. Робот не субъект. И у нас нет оснований не доверять экспертам. Однако уже сейчас речь идет о достаточно эффективной имитации душевных проявлений человека, правдоподобность которой будет только нарастать. То есть мы делаем акцент на том, что вне зависимости от того достижима или нет цель создания эффективного агента (субъекта), прецеденты иллюзии одушевленности ИИ есть уже сейчас. Это не может оставаться без должного внимания со стороны Церкви. Именно этот момент, иллюзия одушевленности, вводит нас в церковный контекст анализа проблем, связанных с ИИ.

Мы могли бы ограничится рассмотрением круга ближайших вопросов, спровоцированных ИИ-технологиями. Например, влиянием ИИ на безработицу, демографию, образование. Несомненно, это актуальные вопросы, некоторые из них входят в круг рассмотрения Синодальной Комиссии по биоэтике. Но сейчас мы обозначили гораздо более фундаментальные проблемы, которые продиктованы тенденциями развития ИИ и которые являются экзистенциальными угрозами обществу. На первый взгляд кажется, что серверные стойки и купола храмов находятся в разных вселенных. Однако, если задуматься, проблематика ИИ касается вопросов, которыми традиционно занимается Церковь: природа человека, душа, истина, этика и спасение. Церковь (как институт и как сообщество верующих) не может оставаться в стороне, потому что ИИ вторгается на нашу каноническую территорию — духовную жизнь человека и ценность личности.

Самое опасное что может произойти на пути очеловечивания машин — это расчеловечивание человека, дегуманизация. Об этом предупреждает Предстоятель Русской Православной Церкви Святейший патриарх Кирилл: «Наблюдая то, как вторгается искусственный интеллект во все стороны человеческой жизни, становится понятным, что речь идет, конечно, о дегуманизации человеческого общества, о потере той решающей роли, которую человек, свободный человек, силой своего разума, своей воли играет в установлении общественных отношений и в судьбе — и в личной судьбе, и в судьбе общества».

Сценариев развития дегуманизации, спровоцированной технологиями «умных» машин, может быть много. В нашу задачу не входит их подробное рассмотрение. Более того, мы обращаемся к аудитории (в широком смысле) с предложением выявлять и анализировать такие сценарии. Но для примера рассмотрим несколько сюжетов.

Во-первых, у человека всегда есть потребность личного общения. Искусственный интеллект способен легко вторгаться в личностную сферу, например, провоцируя чувство эмпатии у собеседника. Возникает удобная и всегда доступная форма замены личного контакта. Легко осуществляемое удовлетворение потребности в собеседнике методами искусственного интеллекта может стать фактором атомизации общества, последствия которого могут быть весьма трагичными: от демографических проблем до «психических пандемий» и эрозии социальных связей.

Во-вторых, искусственный интеллект способен производить информацию, что создает прецедент искусственной творческой деятельности. Вариантов последствий этой особенности целое множество: девальвация изобразительного искусства, наук, потеря смыслов, экзистенциальный вакуум. Или, учитывая глубокую погруженность современного общества в информационное пространство и способность ИИ формировать несуществующую реальность, создавать иллюзии высокого уровня правдоподобности, возникает опасность отождествления реальности с мечтаниями. Неспособность человека отличить иллюзию от реальности может быть крайне трагичной. Как заметил Святейший Патриарх Кирилл на XI Международном фестивале православных СМИ «Вера и слово»: «возрастающая сложность различения правды и лжи, в том числе распознавания так называемых фейков, создаваемых искусственным интеллектом, — все это сказывается и на свидетельстве Церкви, потому что делает людей отчасти неспособными воспринимать благую весть о спасении».

Далее, ИИ обладает значительным потенциалом в регулировании общественных процессов, управлении социумом. Это вызывает глубокую обеспокоенность. Возможность манипуляции массовым сознанием посредством когнитивных и поведенческих технологий, включая алгоритмы персонализированного контента, системы социального рейтинга и цифрового надзора, позволяют реализовать механизмы тотального контроля. Механизмы жесткой детерминации поведения могут привести к потере индивидуальной свободы и усилению социальной стратификации. На возможность такого сценария, на наш взгляд указывают слова Откровения Иоанна Богослова: «никому нельзя будет ни покупать, ни продавать, кроме того, кто имеет это начертание, или имя зверя, или число имени его» (Отк. 13:17). Возможность такой траектории развития событий во многом сопряжена с технологиями ИИ.

Можно выразить мнение, что эти и многие другие подобные сюжеты и проявления интеграции «умных» алгоритмов в человеческую жизнь во многом являются следствием философии логического позитивизма и постпозитивизма, редукции богословия и метафизики к так называемому позитивному знанию.

Наконец, возвращаясь к сугубо церковной проблематике и учитывая тенденцию уподобления машины человеку, не исключено, что может быть поставлен вопрос об участии ИИ в церковных таинствах. Отдельные прецеденты постановки таких вопросов уже есть. Надеюсь, сейчас еще очевидно, что это недопустимый предел, и по-другому об этом не скажешь как «мерзость запустения, стоящую на святом месте» (Мф. 24:15). Нам хочется думать, что в церковном сообществе нет надобности в доказательстве недопустимости такого сценария. Однако отдаем себе отчет в том, что такое обоснование все же необходимо и именно богословское с опорой на Священное Писание, корпус наследия Святых Отцов, религиозную философию, метафизику.

Таким образом, проблематика ИИ имеет огромный церковный контекст, потому что Церковь — это источник знания о человеке и защитник человечности. Когда инженеры спрашивают: "Как сделать ИИ этичным?", они фактически приходят к богословским вопросам, на которые веками отвечала Церковь: "Что есть добро и зло?", "Что есть личность?", "В чем смысл существования?". Церковь в этом диалоге выступает не как цензор, запрещающий технологии, а как хранитель антропологии. Она напоминает: как бы ни был совершенен ИИ, человек остается венцом творения. Интеллектуальная машина не может заменить собой Живого Бога и живого человека и, более того, постановка вопроса о такой возможности является кощунственной.

Итак, главный вызов, а точнее, главное направление вызовов, связанных с технологиями искусственного интеллекта, заключается в опасности дегуманизации общества. Именно в этом вопросе ядро актуальности проблематики ИИ. Насколько эта дегуманизация неотвратима зависит от нас с вами. Здесь конкретизируем: это зависит от значимости в обществе духовной жизни, от востребованности человеком Богообщения и спасения своей души. В таком контексте роль Церкви по сдерживанию пагубных тенденций становится очевидной: если главная опасность - дегуманизация, то ей необходимо противопоставить гуманизацию с опорой на Духовный Источник природы человека, на Бога, на благодать, на церковные таинства.

Возможна ли созидательная интеграция новейших информационных технологий в нашу жизнь? Позволим себе мнение, что такая возможность есть. Безопасное сотрудничество человека с «умной» машиной возможно при строгом соблюдении сакральных границ человеческой природы, при строгом соблюдении границ деятельности, которая может быть осуществляема только человеком. Прежде всего, это сфера Церкви и те светские области, где сугубо востребованы личностный и нравственный аспекты. Например, это государственное управление, правоохранительная деятельность, педагогика, искусство, как язык выражения внутреннего мира, наука, не как «сумма технологий», а сфера познания Книги Природы, социальное служение и многое другое. Разумеется, искусственный интеллект может быть в помощь в этих сферах, но никак не замена человечности на реализацию функции. Эти пределы обусловлены Богообразностью и возможностью Богоподобия человека. Никакое искусственное воспроизведение или даже попытки воспроизведения этих фундаментальных и отличительных основ человеческого бытия не допустимы.

Выражаем надежду, что общество способно сделать искусственный интеллект своим помощником, фактором созидания и процветания. Это возможно с помощью Божией при отказе от богоборческих целей. И наша забота, забота Церкви Христовой в том, чтобы оградить общество от горделивых и пагубных фантазий, в том, чтобы влияние технологического развития было бы созидательным, то есть не против человеческой природы, не против Бога, а оставалось бы неизменно в русле традиционных духовно-нравственных ценностей.