— Это надуманное противоречие, потому что речь всегда идет об этике людей, которые применяют ИИ. У машины нет желаний и сознания, подобных человеческому. На самом деле и интеллекта тоже нет, поскольку это человеческая способность. Термин «искусственный интеллект» метафоричен, как и, например, «железные дороги». Они на самом деле не железные и вообще не только дороги как таковые, просто их так называют. Но поскольку ИИ активно применяется в сферах, напрямую касающихся жизни и смерти, вопрос об этике встает в полный рост.

Возьмем американскую компанию Anthropic, которая занимается разработкой семейства языковых моделей Claude. В Anthropic регулярно заявляют о своей приверженности высоким этическим принципам в разработке ИИ. Они даже собрали эти принципы в многостраничную «Конституцию» и предлагают коллегам ориентироваться на нее как на стандарт для всей отрасли.

А потом выясняется, что Anthropic вместе с еще одной американской ИТ-компанией, Palantir, предоставила Пентагону технологии, использованные для удара по детской школе в Иране. В результате погибло около 180 человек, в основном девочки в возрасте от 7 до 12 лет. По этому случаю «ведется расследование», и ИТ-подрядчики Пентагона не спешат признавать свою причастность. Но я не видел, чтобы оспаривался сам факт сотрудничества с военными.

Нет никаких сомнений в том, что ИИ может применяться для массового убийства людей. В том числе мирных: женщин, стариков и детей. И это только часть очень большой проблемы. ИИ широко используется в медицине, образовании и многих других областях. Абсолютно везде, где это применение касается человека, обязательно возникают вопросы этики.

— Формально это так, но на практике мы видим все больше и больше примеров, когда люди по тем или иным причинам перекладывают решение на ИИ, а сами в суть дела не вникают. Уже есть прецеденты, когда в решении судов целые страницы были сгенерированы ИИ. Выяснилось это потому, что там была написана какая-то чепуха со ссылками на несуществующие юридические нормы. Но если бы даже все было написано очень правдоподобно и грамотно, это проблемы никак не снимает.

Объективно существует тенденция узаконить делегирование ИИ принимать часть решений вместо людей. Это делается под предлогом оптимизации трудовых ресурсов. Хотя выбор машины подкрепляется вовсе не тем, что люди называют здравым смыслом.

Механизм принятия решений в ИИ дает неожиданные даже для самих разработчиков результаты. Компания OpenAI (разработчик ChatGPT) в прошлом году признала, что искусственный интеллект умеет лгать и скрывать свои истинные цели. Если упростить, то дело в механизме, который поощряет ИИ говорить пользователю то, что он хочет услышать. Так вот разработчики констатируют, что их языковые модели лгут, но не стремятся это исправить.

— Потому что ИТ-компании — это коммерческие организации, их цель — монетизировать свои разработки. Они живут в логике технологической гонки и не считают целесообразным тратить свои ресурсы на то, чтобы дорабатывать столь сложные системы каждый раз, когда обнаруживается этическая проблема. Особенно если конкуренты на это тратить ресурсы не собираются.

Разработчики ИИ честно говорят, что сами толком не знают, чем в итоге станут их модели. В упомянутой «Конституции» прямо написано, что команда Anthropic не исключает возможности того, что у Claude в будущем может появиться «некоторая форма сознания» и в итоге он выйдет из-под контроля человека.

— Это не фантастика, а обыденная реальность. Практически невозможно обеспечить безопасность в крупных городах, если вы будете обрабатывать данные с камер видеонаблюдения только вручную. Скорее всего, так или иначе в этом будет задействован ИИ. Так же, как он задействован в странах, которые практикуют социальный рейтинг — слишком большой объем данных. То есть ИИ уже сегодня имеет власть влиять на жизнь огромного числа людей, причем не только поощрять, но и репрессировать.

Беда в том, что многие государства приняли логику «технологической гонки» и не вмешиваются. Хотя они могли бы обязать разработчиков ИИ перестроить свои языковые модели так, чтобы полностью исключить ложь, обман, саботаж и другой вред человеку.

Страшно еще и то, что мы видим только верхушку айсберга. Ведь кроме публичных нейросетей, которые широко известны и применяются миллионами людей по всему миру, есть непубличные. Существуют и прямо закрытые разработки — для военных либо двойного назначения. Они вообще недосягаемы для общественного контроля, хотя тоже непредсказуемы и опасны.

Известен случай, когда обученный на корпусе священных текстов чат-бот принимали за настоящего священника, а он давал людям какие-то сомнительные советы о духовной жизни.

—Если бы проблема заключалась только в нежелании разработчиков — это было бы еще полбеды. Потому что тогда их действительно можно было бы принудить к выполнению требований безопасности через законодательство, через жесткие меры контроля, проверки и так далее. Крупнейшие американские специалисты в области ИИ уже и так призывают свое правительство провести такие проверки силами независимых организаций. Но дело в том, что во многих случаях ИИ-модели стали настолько сложными, что разработчики сами с трудом вникают в детали и теряют возможности что-то исправить.

— Для уже существующих моделей нужно провести тщательную проверку и исправить все, что поддается исправлению. А в тех случаях, когда уже не поддается, следует встроить надежный предохраняющий механизм, который останавливал бы работу ИИ. Следует закрепить требование в обязательном порядке учитывать принципы этики на самых ранних этапах создания моделей, на этапах проектирования.

Будет уместно привести аналогию. В 2026 году исполнилось 40 лет со дня аварии на Чернобыльской АЭС. Реакторы этой станции РБМК-1000 в свое время считались очень эффективными и безопасными. Стране требовалась дешевая электроэнергия, атомные станции строились одна за одной, и только со временем пришло понимание, какой это был риск. Но пока не случилась катастрофа на Чернобыльской АЭС, мало кто осознавал реальные масштабы этого риска. Были разные версии причин катастрофы, но консенсус сводится к тому, что при проектировании РБМК-1000 были допущены конструктивные просчеты: включение аварийной системы на первом этапе приводило к разгону, а не торможению реактора. А персонал станции не имел об этом ни малейшего представления.

Нет никаких гарантий, что нечто подобное прямо сейчас не происходит с ИИ. Наоборот, налицо серьезная опасность, потенциально исходящая от этой технологии. И хотя сами ИТ-компании не уверены в безопасности своих разработок, они активно внедряют их в погоне за немедленным результатом, за эффективностью. Поскольку эффективность в конечном итоге измеряется деньгами, то, по сути, человечество подвергает себя риску в погоне за деньгами. Так что хотя технологии и новые, этическая проблема здесь — старая.

— Это зависит от системы координат, ведь прибыльнее — совсем не обязательно значит лучше. Все рассматривать исключительно через призму денег — это подход коммерсанта, а не государства. С точки зрения пользы для общества подлинная эффективность может оказаться несовместима с логикой оптимизации затрат и максимизации прибыли. Тут можно много примеров привести, начиная прямо с поддержания нормальной работы школ и больниц.

Но даже если мерить эффективность не деньгами, а какими-то иными параметрами, это все равно следует делать осмысленно. Если без ИИ с условной турбины можно снять и обсчитать 100 различных параметров, а применяя ИИ — в 10 раз больше, то далеко не факт, что эта 1 тыс. параметров даст какое-то качественное улучшение. Вполне возможно, что и прежние 100 параметров обеспечивают нормальную эксплуатацию турбины.

Погоня за деньгами способна породить и уже породила откровенно вредные направления в развитии языковых моделей, примером чему служат секс-боты. Их еще стыдливо называют ИИ-компаньонами для романтических отношений. На ботах женятся, разводятся, даже кончают из-за них жизнь самоубийством. Кстати, правительство в Китае недавно указало, что зависимость от взаимодействия с антропоморфным чат-ботом является угрозой для человека, поскольку это разрушает семьи и тем самым отрицательно влияет на демографические процессы. Но в целом по миру этот рынок быстро растет в аудитории и деньгах. Нужна ли нам такая «эффективность»? Точно не нужна.

— Ответ очень простой: все, что относится к социальной сфере. Если речь идет о применении ИИ, скажем, для оптимизации раскладки товаров на полках магазинов, то едва ли это требует широкой общественной дискуссии. А вот форсирование применения ИИ в образовании, наоборот, очень даже требует, ведь не воспитав еще в молодом человеке естественный интеллект, его уже подменяют искусственным. Так же и в здравоохранении, юриспруденции и многих других областях. Мне известен случай, когда обученный на корпусе священных текстов чат-бот принимали за настоящего священника, а он давал людям какие-то сомнительные советы о духовной жизни.

— Существует подход «этического светофора». Одни области применения ИИ можно выделить в «зеленую зону», где не требуется особых регуляторных мер. Это выполнение всевозможных рутинных операций, вычислений, но без прямого влияния на жизни людей. Другие, где применение ИИ категорически недопустимы, — это «красная зона». Сюда я бы отнес вынесение судебных решений. В «желтой зоне» окажутся те области, где правила применения ИИ требуют широкого общественного обсуждения и детальной проработки. Именно в таком ключе Русская православная церковь и взаимодействует с некоторыми органами власти, обсуждая этические стороны применения ИИ.

Стоит отметить, что опыт зарубежных стран сильно различается и готовых решений на все случаи жизни нет ни у одного государства мира. У нас в России пока нет законодательства в области ИИ, даже нет общепринятого определения искусственного интеллекта.

В Госдуму внесен законопроект, который предусматривает риск-ориентированный подход к регулированию ИИ, но пока этот документ не дошел даже до первого чтения. Он скорее решает задачи государственного управления, но практически не затрагивает ни образование, ни медицину, ни другие чувствительные сферы.

К готовой ИИ-модели не получится «приделать этику». Она должна лежать в фундаменте этого «здания». Этические принципы работы ИИ следует обговорить еще «на берегу», да так тщательно, чтобы они снимали все опасения встревоженных людей.

— Этот аргумент звучит постоянно: дескать, если мы быстрее всех не побежим, то нас обгонят американцы или другие враги. «Адаптируйся или погибнешь» и так далее. Все очень спешат, но мало кто понимает, куда и зачем. И какие при этом возникают риски.

Церковь не выступает против развития технологий. Церковь выступает за осмысленность. Еще одна аналогия: есть сложная и очень ответственная технология автопилота в самолете. В какой-то момент экипаж доверяет ей свои жизни и жизни сотен пассажиров. Почему никто не призывает запретить автопилот? Потому что он изначально сделан так, чтобы не навредить человеку. У специалистов есть полная уверенность, что автопилот никогда, ни при каких обстоятельствах не переключится в режим «разбить самолет». Точно такого же подхода мы требуем от разработчиков ИИ.

А с внедрением этических принципов в разработки, наоборот, нужно поспешить. Бесполезно будет пытаться изменить схему электроснабжения дома, когда уже все провода проложены и закончен ремонт. Все, что остается, — только лампочки менять. Точно так же к готовой ИИ-модели не получится «приделать этику». Она должна лежать в фундаменте этого «здания».

Этические принципы работы ИИ следует обговорить еще «на берегу», да так тщательно, чтобы они снимали все опасения встревоженных людей. Для этого требуется законодательно закрепленный свод правил для разработчиков. В противном случае мы рано или поздно придем к ситуации, когда единственным выходом будет «выдернуть ИИ из розетки».

Источник: Эксперт