Ваше Преосвященство, досточтимые отцы, братья и сестры, дорогие друзья!

     Нам с вами довелось жить в эпоху стремительных перемен. Чтобы почувствовать это, не обязательно обладать особо проницательным умом — тектонические сдвиги и в геополитике, и в технологическом укладе жизни видны каждому. На самом деле мы являемся свидетелями и участниками уникального исторического процесса, когда архитектура привычного мира перекраивается на глазах.

     Несколько лет назад мы были с отцом Димитрием Пономаревым в Москве на фестивале «Вера и слово». На одной из встреч профессор из МГИМО сказал такую вещь: «Те из нас, кто доживет, через двадцать лет не узнают этот мир». В связи с этим вспоминаются слова Джона Сильвера из «Острова сокровищ»: «Те из вас, кто останется в живых, позавидуют мертвым».

     У каждого из нас в руках или в кармане, или в сумке, светящиеся экраны смартфонов. Подавляющее большинство к этому уже привыкло, как к чему-то само собой разумеющемуся. Привыкли, что нейросети находят для нас нужную информацию, пишут тексты, генерируют картинки и видео, выстраивают маршруты, бронируют билеты, решают школьные задачи, пишут курсовые и дипломные работы и так далее, и тому подобное. И уже трудно представить, как обходиться без этого.

     Но именно сейчас, когда технологии развиваются быстрее, чем мы успеваем их осмыслить, стоит остановиться и подумать: а где во всем этом цифровом великолепии остаемся мы?

     Технический прогресс на наших глазах развивает такую скорость, что изменения, происходившие в прошлом за тысячелетия, теперь происходят за считанные годы. Когда-то человечеству требовались сотни лет для освоения новых материалов и орудий труда. Сегодня фундаментальные технологические революции происходят при жизни одного поколения. И время перехода к следующему технологическому укладу сокращается колоссальными темпами.

     За последние 200 лет человечество пережило уже несколько технологических революций. Но каждая из них внедрялась в повседневную жизнь гораздо быстрее предыдущей:

1. Индустриальная революция XVIII века, связанная с изобретением паровых машин, наступила спустя примерно 4500 лет после появления первых человеческих цивилизаций. Сам этот переход продолжался примерно 100 лет.
2. Научно-техническая революция (появление электричества, конвейерного производства, бум химии) заняла уже 80 лет.
3. Информационная революция (создание ЭВМ, автоматизация, появление интернета) потребовала всего 40 лет.
4. Цифровая революция (внедрение ИИ, блокчейн, квантовые технологии) развернулась стремительно — всего за 15 лет.

     Яркий маркер этой скорости — потребительский ИИ. Например, популярный чат-бот ChatGPT всего за первые 2 месяца после своего релиза достиг отметки в 100 миллионов активных пользователей в месяц. Ни одна технология в истории не распространялась по планете с такой стремительностью.

     Современный рост технологий лучше всего иллюстрирует сфера вычислений. Кто-нибудь наверняка слышал о законе Гордона Мура, американского инженера, сооснователя компании Intel. Он сформулировал правило: количество транзисторов на кристалле микросхемы удваивается примерно каждые 2 года. Наверняка кто-нибудь, по крайней мере из моего поколения, увлекался в юности радиотехникой. Вы должны помнить, что в 70-е транзисторы имели размер немногим меньше мизинца.

    За 50 лет (с 1970-х по 2020-е) плотность транзисторов на платах выросла в миллиарды раз. Только вдумайтесь: сейчас в современных чипах плотность транзисторов превышает 100 миллиардов на площади размером с человеческий ноготь!

     Параллельно идет лавинообразный взрыв информации:

1. До изобретения книгопечатания в XV веке накопленные человечеством знания удваивались раз в несколько столетий.
2. К середине XX века объем информации на планете удваивался каждые 25 лет.
3. Сегодня мировой объем данных удваивается примерно каждые 2–3 года.

     Таким образом, исторический шаг технологического прогресса сжался более чем в 10 000 раз. И мы летим вперед по экспоненте.

     Что же такое искусственный интеллект?

     Это не просто очередной технологический прорыв, это глубокий цивилизационный вызов для каждого из нас.

     До сих пор встречаются люди, которые думают, что ИИ — это биологическая масса искусственных извилин, которые как-то шевелятся, имеют собственное сознание, испытывают эмоции и рождают мысли. Что-то вроде ожившей головы профессора Доуэля из известного фантастического романа Александра Беляева.

     На самом деле, говоря простыми словами, искусственный интеллект — это компьютерная программа, которая умеет считать с огромной, можно сказать космической скоростью. Программа быстро обрабатывает громадный объем данных и выдает результат согласно запросу, который получает от человека. Информацию программа черпает из центров обработки данных, так называемых ЦОДов, или Дата-центров. Это огромные, строго охраняемые здания, под завязку забитые тысячами мощнейших компьютеров и серверов, в которых хранится практически всё, что есть в открытом доступе мирового интернета: новости, статьи, учебники, доклады, энциклопедии, научные работы, диссертации, архивные документы и переписки из социальных сетей, художественная и научно-популярная литература. Всё, что когда-либо оцифровали и выложили в сеть. Причем, на разных языках.

     Кстати, масштабная инфраструктура развивается и у нас — один из таких мощных дата-центров En+ планируется построить в Иркутской области, в Усть-Илимске.

     Именно там, внутри серверов, ИИ непрерывно «переваривает» колоссальные объемы информации и, согласно заданным алгоритмам, совершает мгновенные, сложнейшие математические и статистические вычисления. ИИ учится на этих огромных массивах информации и решает задачи, раньше считавшиеся сугубо человеческими.

     Управляет всей этой мощью обычный человек-пользователь с помощью промта — то есть текстовой инструкции или команды. Мы вводим запрос в диалоговое окно, и машина мгновенно просчитывает миллиарды вероятностей или примеров и выдает готовый результат.

     Практические преимущества ИИ как инструмента колоссальны. Он забирает на себя монотонный труд — оформление документов, финансовые сверки, базовый анализ, вычисление статистической вероятности и многое-многое другое. Например, одна из программ ИИ от Google совершила революцию: она сумела высчитать и вычислить трехмерную структуру сотен миллионов белков. Это задача, на которую у человечества в лабораториях ушли бы столетия. Это открывает путь к созданию индивидуальных лекарств от рака и генетических заболеваний.

    Год назад я общался с генеральным директором ГНЦ им. Келдыша профессором Кошлаковым Владимиром Владимировичем. Центр входит в состав Роскосмоса и занимается, в том числе, разработкой двигателей для ракет, гражданских и военных. Он рассказал, что меняется в их отрасли с внедрением ИИ. Если раньше на разработку нового двигателя уходило примерно два года, то теперь этот срок сократился до двух месяцев. Программе нужно лишь грамотно поставить задание – материал изделия, вес, грузоподъемность, вид топлива. Причем программа выдает готовые рабочие чертежи, которые можно запускать в производство.

     Все это открывает невероятные перспективы. Моделирование работы заводов, энергосетей, экологических систем городов.

     Дата-центры, подобные тому, что будет в Усть-Илимске, позволяют экономить огромные ресурсы и предотвращать техногенные катастрофы.

     Однако за фасадом этого технологического оптимизма скрываются серьезные вызовы. В профессиональном сообществе людей, занимающихся кибербезопасностью, все чаще слышны призывы трезво взглянуть на риски.

     Нейросети обладают так называемым «черным ящиком». Даже создатели продвинутых моделей глубокого обучения не могут точно проследить пошаговую логику ИИ. Система связывает и просчитывает миллионы параметров, выдает точный результат, но конкретный путь принятия решения человеком не прочитывается.

     ИИ функционирует на основе вероятностных алгоритмов, поэтому имеет фундаментальную проблему так называемых «галлюцинаций». Программа может абсолютно уверенно, красиво и правдоподобно придумывать несуществующие научные статьи, исторические факты или судебные прецеденты. Это происходит потому, что программа может легко предсказать наиболее вероятное следующее слово, но не проверяет истинность данных. Как подчеркивает Наталья Касперская, система, чьи выводы невозможно гарантированно проверить, не может пользоваться стопроцентным доверием. В медицине, транспорте и госуправлении слепая вера в машину становится прямой угрозой национальной и даже физической безопасности.

      А когда технологии попадают в злонамеренные руки, невероятная доступность быстрых вычислений начинает таить в себе огромную опасность. ИИ становится мощным мультипликатором силы для хакеров, стирает порог входа в киберпреступность. Теперь злоумышленнику не нужно быть гениальным программистом — достаточно правильно сформулировать промт.

     И вот уже нейросети используются для автоматизации взломов, для создания фишинговых сайтов, для подделки голосов, для обхода биометрических систем.

     С точки зрения кибербезопасности ИИ создает новые каналы для утечки данных. Использование зарубежных платформ ведет к тому, что конфиденциальная информация накапливается у геополитических оппонентов. Ярким примером стал резонансный инцидент в компании Samsung, когда сотрудники случайно загрузили в ChatGPT исходный код секретного программного обеспечения и записи закрытых совещаний, сделав их достоянием чужой платформы.

***

     Но технологические проблемы теоретически можно попробовать решить законами. Гораздо глубже и страшнее риски антропологические, духовные. Что происходит с самим человеком, когда он передает интеллектуальные функции машине?

      Сегодня, говоря о нейросетях, обычно видят в них либо идеальных помощников, либо угрозу рабочим местам. Однако главная опасность представляется в другом.  Мы начинаем путать механическое выполнение задач с настоящим, глубоким мышлением. Если присмотреться к повседневной жизни современного человека, выяснится пугающая вещь: многие из нас сегодня мыслят и действуют почти как нейросети. Мы часто теряем способность быть авторами своей жизни, мы просто реагируем на внешние раздражители из наших гаджетов. Это отчетливо видно, когда человек часами бездумно листает ленту коротких видео в социальных сетях, позволяя алгоритму рекомендаций решать, какое настроение у него будет в следующий момент. Наша реакция на новости, выбор одежды на маркетплейсах и даже темы для разговоров с друзьями все чаще становятся результатом работы чужих математических моделей.

    Человек постепенно превращается в продукт цифровой среды, теряя свою индивидуальность. В этой экосистеме технологии уже не просто помогают нам — они незаметно подстраивают наше поведение под свои стандарты. Происходит тихая сделка, похожая на продажу души: мы отдаем технологиям право думать за нас в обмен на комфорт и экономию усилий.

    Стремительное внедрение ИИ в сферу образования — от детских садов до вузов — несет в себе риск когнитивной деградации. Доверяя алгоритмам формулировать мысли, молодое поколение рискует утратить навыки самостоятельного мышления. Таким образом человек снижает планку требований к собственному уму, данному Богом, и он начинает атрофироваться. Замена человеческого общения цифровым суррогатом обесценивает саму суть человеческих отношений.

    Святейший Патриарх Кирилл как-то очень точно заметил, что «искусственный интеллект без совести» — это колоссальная угроза. И дело даже не в пресловутом восстании машин. Дело в нас. Мы рискуем превратить искусственных помощников в безжалостных господ.

    Да, компьютер безупречно имитирует понимание и выдает гладкий, грамматически правильный текст, но за его красивыми словами нет живого опыта. Нейросеть не несет ответственность за свои слова. Машина способна лишь симулировать эмпатию, но у нее нет и не может быть духовности.

    Сейчас появились программы, которые имитируют общение со священником. Знаете, на что похоже общение с ИИ на сокровенные темы? Это попытка согреться у нарисованного очага. Картинка красивая, даже кажется, что веет теплом, но согреть душу она не может — у алгоритма нет сердца. И когда мы ищем ответы на глубокие духовные вопросы у бездушного кода, мы впадаем в то, что святитель Игнатий (Брянчанинов) называл «лжеименным разумом» — красивой, но пустой и опасной иллюзией.

     Позиция Церкви — это не слепое отрицание прогресса, а призыв к разумной осторожности. Необходимо провести четкие «красные линии» и зафиксировать их и в законах, и в своей жизни:

     ИИ — это только инструмент. Пусть он считает сметы, переводит тексты, моделирует белки и строит дата-центры. Но нравственный выбор, ответственность и живой контроль всегда должны оставаться за человеком. Это и есть подлинный антропоцентризм. Нельзя позволять лентам соцсетей манипулировать нашим вниманием, формировать привычки и управлять выбором.

     Среди галопирующих технологических изменений единственный способ остаться людьми — это кардинально повысить качество собственной жизни, осознанности и мышления. Нам нужно вернуться к тому, что принципиально недоступно ни одному компьютеру. Это способность выбирать свой путь вопреки обстоятельствам, умение искренне сопереживать без подсказок из интернета, готовность жертвовать своим комфортом ради других и чувствовать Божию правду сердцем, а не только сухой логикой.

Мы с вами — не просто сложная комбинация биологических алгоритмов, которую можно скопировать на жесткий диск. Мы сотворены по образу и подобию Божию.

А искусственный интеллект поставлен перед нами как великий экзистенциальный экзамен. Он либо окончательно превратит человечество в безвольное, механическое приложение к цифровому миру, либо заставит нас наконец проснуться и зажечь в себе тот внутренний духовный огонь, который и делает человека человеком.