«Поскольку мы заговорили о человеческом уме, следует назвать еще один важный вызов нашего времени — это искусственный интеллект. Сегодня ни для кого уже не секрет, что искусственный интеллект становится тем, что все больше и больше будет определять наше культурное пространство. И здесь также есть над чем поработать, в том числе и на законодательном уровне.
Существует, например, реальная опасность утраты интеллектуальных и творческих навыков человека. Самообучаемая программа создает интеллектуальные продукты на основании того, что уже было когда-то создано людьми, а также начинает использовать для этих целей свои собственные материалы, сгенерированные ранее идеи. Со временем, как говорят специалисты, человеческое наследие, бесценный интеллектуальный и культурный фонд, накопленный на протяжении истории, может все глубже уходить в затерянные «культурные слои», которые для многих окажутся просто недоступными, а то и вообще непонятными.
Важно, чтобы искусственный интеллект служил во благо людей, а человек мог его контролировать. Если верить прогнозам некоторых экспертов, в скором времени может появиться поколение более продвинутых машинных моделей, получивших название «Всеобщий искусственный интеллект», которые будут способны думать и учиться — учиться, то есть совершенствоваться, — как человек. И если такой искусственный интеллект поставить рядом с обычным человеческим, кто будет выигрывать? Конечно, искусственный интеллект!
В свое время люди обуздали ядерную энергию, и атом стал не только оружием уничтожения и инструментом сдерживания, но и нашел применение в мирной жизни. Пока не вполне осознаваемые нами возможности искусственного интеллекта также должны быть поставлены на службу человеку. И всякий раз, говоря об искусственном интеллекте, мы должны мысленно «зажигать красный свет» в своем сознании: не все так просто! Вы знаете, что сказано в Священном Писании: в конце человеческой истории придет антихрист, то есть личность, которая будет противостоять Христу, противостоять всему тому, что принес Бог в жизнь человечества. Всеобщая глобальная власть антихриста будет преследовать достижение самых опасных целей, которые приведут к концу человеческой цивилизации. И мы должны помнить, что ведь антихрист не с неба явится и не из преисподней выйдет. Он не сможет явиться в окружении, которое будет его отторгать, — он может прийти и обрести силу только в обществе, которое будет его поддерживать. И еще неизвестно, какой может быть роль искусственного интеллекта в приближении этой апокалиптической картины.
Это не значит, что мы должны отвергать достижения науки и возможность использовать искусственный интеллект. Но все это должно быть поставлено под очень жесткий контроль государства и общества. Мы не должны упустить из виду очередную опасность, способную разрушить человеческую жизнь и человеческую цивилизацию. Важно, чтобы искусственный интеллект служил во благо людей, а человек мог его контролировать.
Отдельная проблема — использование искусственного интеллекта в отношении воздействия на личность человека и, в каком-то смысле, на его судьбу. Знаю, что сегодня ведется активное обсуждение возможности цифровизации судебных решений. Важно законодательно очертить границы вклада искусственного интеллекта в их разработку, чтобы подобные решения, влияющие на жизнь человека, принимали не бездушные алгоритмы, а справедливый человеческий суд, способный учитывать множество нюансов и руководствоваться нравственным императивом, который лежит в основании здоровой правовой системы. Другими словами, правовая система — это область, где также предлагается использование искусственного интеллекта, но где с особой осторожностью нужно осуществлять подобные инновации.
Более того, мы всё чаще сталкиваемся с таким явлением, как сгенерированная реальность. Представляется, что следует рассмотреть вопрос о законодательном регулировании ситуации с тем, что называется «дип-фейки». Способность искусственного интеллекта к созданию «дип-фейков» — высококачественных подделок изображений, голоса и видео уже сегодня наносит большой ущерб обществу, затрудняет расследование преступлений, создает угрозу национальной безопасности, не говоря уже о серьезных репутационных потерях, которые несут пострадавшие люди.
Уровень подделок настолько высок, что их не всегда могут различить даже судебные эксперты. В недалеком будущем такие подделки могут заполнить собой существенную часть медиапространства. Если это произойдет и не будет уже сегодня предотвращено, то станет невозможным отличить правду ото лжи, что даст злонамеренным людям мощные инструменты для манипуляции общественным сознанием. Необходимо уже сейчас продумывать систему контроля над содержательной достоверностью медиаполя. Правда должна быть надежно защищена, а конкурировать с искусственным интеллектом на этом поле будет очень тяжело.
Поэтому, всячески приветствуя научно-техническое развитие, без которого, наверное, и не может существовать современная цивилизация, все-таки нужно ставить некие «красные флажки», как это было сделано в отношении использования ядерной энергии. Искусственный интеллект — это опаснее, чем ядерная энергия, особенно если искусственный интеллект будет запрограммирован на несение сознательного вреда человеческой нравственности, человеческому общежитию и другим ценностям, без которых человек потеряет способность оставаться человеком.
Практически все крупные западные программы искусственного интеллекта, к сожалению, направлены на пропаганду так называемой политкорректности, становясь инструментом политической манипуляции. Это означает, что такие программы отнюдь не нейтральны аксиологически: они воспроизводят и внедряют конкретную ценностную парадигму. Отечественный искусственный интеллект должен быть суверенным, как суверенны наше государство и наша культура».
Источник: Патриархия.ru