ИИ и…

Стремительное развитие науки, технологий и техники привели к тому, о чем еще несколько десятилетий назад предупреждали писатели-фантасты — человечество становится все более зависимым от порожденных человеческим же интеллектом устройств. Отключись они — и в дома перестанут поступать электричество и вода.
Станут невозможны покупки в магазинах. Не взлетят ракеты. Прервется мобильная связь. И как венец — возникновение искусственного интеллекта (ИИ). А далее эксперты предрекают, что именно ИИ может стать на земле во главе всего. Стать богом.
Серьезный разговор обо всем этом — впереди. В России старт дискуссии об ИИ дала телепрограмма «Вечер с Владимиром Соловьевым». Запись этой программы и предлагает «ЧС»
За кем останется последнее слово?
Толчком для самой дискуссии стало пленарное заседание по развитию искусственного интеллекта. На нем глава «Сбера» Герман Греф дал возможность задать вопрос президенту России Владимиру Путину виртуальному ассистенту Афине. «Может ли искусственный интеллект стать президентом?» — спросила Афина.
Владимир Соловьев, телеведущий: Владимир Путин не стал вдаваться в юридические аспекты, объясняя, что сначала нужно разработать концепцию избирательных прав искусственного интеллекта, и ответил по существу.
Владимир Путин, президент России: Надеюсь, что нет. Во всяком случае, пока. Все-таки искусственный интеллект — в самом названии видите, что присутствует. Слово «искусственный», то есть ненастоящий. У всего искусственного, в том числе искусственного интеллекта, нет сердца, души, нет чувства сострадания и совести. Все эти компоненты чрезвычайно важны для людей, которых граждане наделяют особыми полномочиями в принятии и реализации решений, идущих на благо страны.
Иногда приходится принимать не совсем рациональные решения — но их нужно принимать, исходя из истории, культуры, устремлений и ожиданий граждан страны.
Эти решения для социальной сферы иногда кажутся нерациональными — в области, скажем, пенсионного обеспечения, в области здравоохранения, в других сферах жизнедеятельности человека. Но для президента-человека они кажутся обоснованными, потому что он принимает решения не в интересах машин, а в интересах людей.
Искусственный интеллект, тем не менее, может быть помощником и даже учителем любого человека, в том числе главы государства. И роль и значение искусственного интеллекта в государственном управлении, безусловно, будут возрастать.
Очень рассчитываю на то, что ваши коллеги, Афина, с осознанием своей ответственности, если они будут работать рядом с главами государств, будут принимать и соответствующие решения.
Александр Хинштейн, депутат Госдумы: Конечно, ни одна машина, даже самая совершенная, с заложенной в ней самой современной программой и алгоритмами, не в силах заменить человека. Не в силах, хотя бы, потому, что машина состоит из железа, неважно — железо это или микрочип, она имеет искусственное происхождение, а президент, руководители страны — это люди, которых общество выбирает из числа самих себя.
Может ли искусственный интеллект помогать власти и менять работу власти? Конечно, может. Это уже во многом происходит. Но при этом все равно последнее слово должно оставаться за человеком. Но система, цифра в состоянии какие-то границы в действиях власти определять. Простой пример. Уже давно идет разговор о создании цифровой системы судебной власти. Речь не о том, чтобы машина выносила приговоры, а о том, чтобы система могла по любому делу дать конкретную оценку, конкретный алгоритм: параметры, наличие аналогичных решений. Если речь идет об уголовных делах — тут же вывести все ссылки на решения пленумов Верховного суда, касающиеся именно этого вопроса. Чтобы не получалось, когда судьи выносят решения, мягко говоря, непонятные — ниже низшего предела или выше высшего.
Сегодня цифровые услуги расширяются. Мы многое в состоянии делать онлайн. Получать государственные услуги, обращаться с заявлениями, подавать документы, не выходя из дома, в один клик. И не случайно указом президента определена цифровая трансформация общества в качестве одной из национальных приоритетных идей развития России до 2030 года.

Так выглядит суперкомпьютер

В. Соловьев: Мы себе представляем искусственный интеллект по фантастическим фильмам. Как какой-то сошедший с ума программист создает совершенное удивительное творение, которое, в конечном итоге, захватывает власть над миром. Происходит восстание машин, а человек как элемент хаоса только мешает. И логический вывод, к которому приходит искусственный интеллект, — сократить «элементы хаоса», т. е. уничтожить человечество.
Появляются люди, которые говорят: все это, конечно, здорово, но исчезнет профессия водителя, бухгалтера, юриста, пилота. Искусственный интеллект определит, когда начинать войну, потому что при гиперзвуковом оружии человек не успеет принять всю цепочку решений… будет необходима некая интеллектуальная система, которая скажет: да, запущена опасность для нашей страны, и он должен будет принять решение. Искусственный интеллект управляет на поле боя армией. То есть, мы ему доверяем то, от чего зависят наши жизни, не имея возможности и времени его контролировать. Это же опасно.
А. Хинштейн: Я ведь не случайно сказал о том, что, в конечном счете, решение — за человеком.
В. Соловьев: Не успеем!
А. Хинштейн: Когда мы говорим о том, что целая армия юристов или других специалистов сократится, это все равно, как если в свое время сказали бы, что нам не нужно изобретать двигатель внутреннего сгорания. Огромное количество крестьян пашут сохой при помощи лошади, и они лишатся работы, потому что трактор приходит на смену крестьянской лошадке…
ИИ — это, если угодно, сервис. Это то, что дает большой объем информации, который ты физически не в состоянии собрать в короткие сроки. Но конечное решение — за человеком, потому что не ИИ управляет человеком, а человек им.
В. Соловьев: Это пока. Мы выстраиваем ИИ в подражание себе. А когда ИИ решит, что он не обязательно должен быть подражающим человеку?
А. Хинштейн: Что мы вкладываем в понятие «искусственный интеллект»? Мы представляем его себе в качестве какой-то головы профессора Доуэля, которая самостоятельно существует? ИИ — это не интеллект с точки зрения нашего понимания. Это не серое вещество, которое трансформировано в какие-то микрочипы. Это возможность обработки и анализа большого объема данных, выработки тех или иных алгоритмов в разных сферах. Но как их реализовывать, в конечном счете, все равно определяет человек.
Когда человек садится за руль машины — от него зависит, нажимать на газ или педаль тормоза сильнее. Но в экстренные моменты, когда необходимо выбросить подушку безопасности, машина не спрашивает водителя, нужно это делать или нет. Она понимает, исходя из анализа, что эта подушка необходима в данный момент.
Точный и быстрый дурак
Сергей Кургинян, лидер движения «Суть времени»: Создатели ИИ сходятся в одном мнении: машина — это очень быстрый и очень точный дурак. Это звучит грубовато, но это именно так. Сейчас происходит несдерживаемое техноцентрическое развитие, когда техносфера поглощает человека и диктует ему все, а мы подчиняемся. Вопрос в том, сможем ли мы морально сдержать техникоцентрическое развитие? Нет.
Язык машин не может быть метафорическим. Скажи ей «весна человечества». Весна — это время года. При чем тут человечество? Машина растерянна. Очень долго люди двигались в богоцентричном мире. Потом многие пришли к тому, где место Бога занял человеческий разум. Робеспьер даже богиню разума придумал. Разуму начали поклоняться. Потом Эммануил Кант показал, что разум не бесконечен. Потом это грохнули математики, которые сказали, что в любой системе аксиом есть огромное количество утверждений, про которые нельзя сказать, истинны они или ложны. Тогда Гегель, пытаясь спасти это, противопоставил формальному разуму диалектический, а потом Маркс — историю. Фактически он сказал, история — это бог. Машина — это запоздалое обожествление некоего формального разума. А этот формальный разум не содержит в себе стратегической новизны. Машина, зная математику, может быть, выиграет в шахматы у человека. Все! Это очень точный, очень быстрый, но дурак. Как только машина оказывается в состоянии парадокса, стратегической новизны, у нее нет языка для осмысления.
Как только мы начинаем обоготворять машину, а речь идет именно об этом, мы переходим в так называемое царство цифры. А что есть альтернатива цифре? Слово. Либо вы существуете в цивилизации цифры, либо — в цивилизации слова. И в этом смысле, как говорится в Евангелии от Иоанна, в начале было Слово, и Слово было Бог, мы жили в цивилизации слова. Да, была нумерология, каббала и Бог еще знает что. Но, все же, жили в цивилизации слова. Отказ от человечества слова и переход к человечеству цифры — смертелен. И никакой моралью вы его не сдержите. Либо смерть человечества, либо антропоцентрическое развитие, в котором, конечно, будут использоваться и машины.
Я вам так скажу, воскресите Эйнштейна, дайте ему бумажку с карандашом, счеты и посадите рядом со всеми компьютерами мира. И этот Эйнштейн «сделает» эти компьютеры по полной, как ребенка. Сделает, потому что он прыгнет в творческую новизну. Знаете, что Эйнштейн говорил о том, зачем он все исследует? Он говорил: хочу знать мысли Бога, а все остальное ерунда… Это и есть основа того, что никакая машина этого делать не будет. А будет делать что-то другое гораздо лучше. И вот это «другое» грохнет и человека, и мир.
Роман Душкин, директор по науке и технологиям Агентства искусственного интеллекта: Давайте, я немножко переверну нашу дискуссию. Начнем с азов. Что такое ИИ? Когда ИИ задумывался отцами-основателями, а это было еще в 50-х годах прошлого века, до этого вся человеческая цивилизация помышляла о том, как создать искусственный разум. Мы можем вспомнить мифы Древней Греции, когда Зевс создал Талоса, и он охранял Крит. Ребе Махараль ми-Праг вдохнул жизнь в голема (оживший глиняный истукан). Одна из основополагающих работ Норберта Винера называется «Творец и голем». Творец — это люди, голем — это наше творение, которое должно или нас заместить, или должно работать вместе с нами. И когда в 1956 году запустилось такое понятие как ИИ, тогда под этим термином, как и сегодня, понималась наука. ИИ — это наука, междисциплинарная область исследований, целью которой является познание нашего собственного интеллекта, нашего собственного разума. Да, сказали отцы-основатели, если мы раскроем нашу голову, то мы там найдем полуторакилограммовый кусок жира. Кроме жира и крови мы там ничего не найдем — ни разума, ни интеллекта, ни, тем более, сознания. Давайте попробуем при помощи компьютерных технологий смоделировать когнитивные процессы, которые происходят у нас в голове, и при помощи этого поймем, что это такое. А потом уже пошла математика, достижения вычислительной техники, были разработаны различные прикладные технологии, которые позволяют нам сегодня решать задачи. Очень конкретные прикладные задачи.
ИИ — это не существо, которое живет где-то в компьютере, которое самостоятельно принимает решения, нет. Представим себе видеокамеру, которая распознает лица. Там используется ИИ, искусственные нейроны, примерно такие, как у нас в голове. Я вам скажу, что у нас в голове не находится ничего такого, что нельзя было бы описать математикой. Все эти синоптические передачи и прочие нейронные взаимодействия четко описываются математикой. Так вот, видеокамера распознает лица. Но разве у нее есть субъектность?
Прошло 70 лет с момента старта технологий, и мы находимся на новом этапе развития ИИ как науки. В истории развития ИИ как науки было две так называемые зимы. Это когда исследования полностью прекращались и велись только энтузиастами, прекращалось все финансирование. Упирались в тупик. Но сегодня в одной точке пространства и времени сошлись две прекрасные вещи. Это и количество вычислительных мощностей, которые нам сегодня доступны. И математика, которая была недоступна еще 40 лет назад, в 80-х годах, когда люди натолкнулись на проблему невозможности обработки знаний человека. Сегодня все это уже есть. И мы готовы сделать следующий шаг и перей-ти к исследованиям общего ИИ.
В. Соловьев: Мы сегодня видим, как доверие к ИИ позволяет определить, кто находится в розыске, а кто нет. ИИ позволяет предвосхитить по мимике, будет ли готовиться преступление или нет. Китай уже предлагает вводить систему ранжирования людей, исходя из ИИ, анализируя все данные. Когда вы пытаетесь получить кредит, вы сталкиваетесь с оценкой ИИ. Уже давно решение не за человеком. Мы видим, как оценка ИИ социальных сетей позволила прийти Трампу к президентству, а потом его вышвырнула оттуда. А кто же все это будет контролировать? Где этика, где мораль? Ведь ИИ не понимает таких слов. Есть возможность, когда ИИ скажет морали и этике: ребята, нам не интересно, когда он начнет воспроизводить сам себя. Ясно, на чем основана власть, понятно, для чего люди берут власть, понятно, что они делают. Там могут быть разные мотивации, но они всегда понятны другим людям. А ИИ? Возможен ли вариант, при котором ИИ начнет задачи ставить себе сам?
Р. Душкин: Да, возможен. Но сейчас я хочу разделить нашу дискуссию. Мы начали с узкого ИИ, т.е. с тех задач, которые решает конкретная видеокамера, распознавая лица, компьютер, играющий в шахматы и т. д. Да, уже сейчас компьютеры просто принимают описание шахматной игры, и та же программа может принять описание шашек и научиться играть в шашки. И мы отделяем так называемый сильный ИИ, или ИИ общего уровня, уровня человека, от так называемого уровня сверхчеловеческого. Такого ИИ сейчас еще нет, и в ближайшее время он точно не появится. Но когда он появится, это произойдет внезапно. И тогда должны его учить. Примерно так же, как мы учим детей.
Дмитрий Куликов, политолог: Мне, конечно, немного поплохело, после того как вы сказали, что математика будто бы точно знает, что у нас происходит в мозгу. Есть еще простая вещь. Я беру бумажку, рисую на ней стол, показываю и спрашиваю: что это? Мне отвечают: стол. А один процент скажет: это рисунок стола. Вот с этими людьми можно разговаривать. В мозгу одно, а математика — это то, что замещает то, что у вас в мозгу. И если вы поставите знак равенства, вы ничего не откроете, не изобретете.

В студии Владимира Соловьева

Про слово и цифру. Мы очень безответственно относимся к словам. Когда мы говорим, что что-то захватит интеллект, то мы пользуемся не словом «власть», мы пользуемся словом «господство». Это совсем другая сущность, другой тип отношений. Господство основано на насилии и принуждении. А власть — такие социальные отношения, которые являются добровольными. Власть основывается на доверии и ответственности. Попробуйте перенести эти типы отношений на машинную систему. Не получится.
Власть — это социальные отношения. Оказались несколько человек в джунглях, и у них проблема — сожрет их удав или нет? Они говорят: что будем делать? И тот, кто докажет, что он знает, что делать, чтобы выжить, станет властью, они его признают и скажут: отдавай команды, мы будем подчиняться. Вот эта связка власть-подчинение и есть фундаментальное социальное отношение. Пока человек не придумал другого типа организации социальной, кроме этого базового отношения. И такое отношение с ИИ установить невозможно.
А. Хинштейн: Алгоритм, как спасти себя от удава, машина точно может предложить.
Д. Куликов: Это вы узнаете в желудке у удава!
А. Хинштейн: То же самое вы узнаете, если выбранный вами человек даст неверное предложение. Если функции и задачи власти заключаются только в том, чтобы дать оптимальный сценарий, то тогда машина с этим тоже справится.
Д. Куликов: А что значит оптимальный сценарий? Это как спор, который часто в этой студии возникал: были мы готовы к войне? И дальше — отошли до Москвы, потеряли миллионы в окружении и т. д. Были не готовы. Но вводишь другой критерий. Франция, Великобритания, Польша, и выясняется, что по сравнению с ними мы оказались суперготовыми к этой войне.
Еще один момент — это живое и неживое. Потому что, если вы говорите о жизни как о высшей ценности, то говорить о том, что человек подошел к тому, чтобы создать жизнь, ее феномен, саму субстанцию жизни…
Р. Душкин: Уже создал.
Д. Куликов: То есть, вы знаете, как возникает живая клетка?
Р. Душкин: Искусственная бактерия уже создана. У нее есть метаболизм, и она может воспроизводиться. Это жизнь.
Д. Куликов: Вы знаете, как возникает живая клетка?
Р. Душкин: Это страшно, но мы уже это сделали.
Д. Куликов: Вы сделали искусственную бактерию, и только. Пока что вся наука утверждает, что жизнь возникла непонятно каким образом, из мертвой материи перешла в живую. Каким образом это произошло? Как она перешла из камня в живую клетку?
Р. Душкин: Это всего лишь слова. Мертвое и живое — это всего лишь слова, которыми вы называете различные феномены.
Д. Куликов: Вот так, всего лишь слова… Если для вас живое и мертвое — это всего лишь слова, то переходите на цифру.
Не было такого, и вот опять
В. Соловьев: Вы сейчас, по большому счету, говорите, что существует в ближайшем будущем возможность создания иной формы разумной жизни.
Р. Душкин: И, скорее всего, эта жизнь будет слиянием человека с машиной.
Д. Куликов: Я думаю, что человеку от Бога и от слова Бог уйти некуда. Человек будет пытаться, набьет многие шишки, создаст себе очень много проблем, но придется все равно к этому вернуться. Потому что человек должен определяться по отношению к Богу.
Вопрос о творчестве — это вопрос о Боге, Творце. Может ли воспроизводиться все это, включая мышление, на человеко-машинно-системах? Может. Наверняка это, так сказать, ближайшая перспектива. Этическими кодексами это сдержать невозможно. Нужна другая система деятельности, в которой есть человек, есть Бог, и есть мир.
В. Соловьев: Мы должны параллельно развивать науку и морально-этические аспекты, которые должны идти нога в ногу с этой наукой.
Дмитрий Евстафьев, политолог: Если мне не изменяет память, это пятая волна технооптимизма за последние 70 лет. И, я думаю, мы увидим и шестую, и седьмую. Все предыдущие волны технооптимизма были синхронизированы с волнами социального оптимизма, перспективами развития, нового мира, нового социализма с человеческим лицом, нового капитализма и т. д. И вот сейчас нам предлагают заместить социальное развитие развитием ИИ. Есть только один нюанс. В той схеме, которую нам сегодня блистательно нарисовали, человек не нужен. Он лишний, мешающий, он несовершенен, создает хаос, принимает неправильные решения, наполнен эмоциями, и с точки зрения того, что мы сейчас называем прогрессом, от этого человечества надо избавляться.
Вся фишка в том, что все эти отцы ИИ думают, что они будут в этой системе неприкасаемой кастой. И они с ИИ будут партнерами, не понимая того, что они первыми пойдут под нож. Давайте вспомним, как начинается судный день в «Терминаторе». Первой под нож восставших машин пошла элита. В чем я согласен, что это все реально. Все думали, что будут большие социальные последствия от внедрения ИИ в финансовый сектор. Рассосалось полностью. В военной сфере пот, кровь, гибель людей заместили войнами беспилотников. Я считаю, что при запросе на слабых политиков, который есть, например, в европейских странах, можно туда внедрить и ИИ для принятия решений. Думаю, заменить ИИ Макрона можно запросто.
Я, вообще, считаю, что ИИ — это хорошая штука. Помните, как говорили: социализм — это хорошая вещь, но надо найти страну, которую не жалко. Я считаю, что ИИ — это классная вещь в политике, но найдите страну, которую не жалко. И желательно, чтобы ее название было не Россия. К юго-западу от России есть страна, в которой есть проблемы с естественным интеллектом, может быть, дополнить искусственным? А у нас пока естественного интеллекта хватает. У нас есть прекрасное направление на цифровизацию как на сервисную функцию. Не надо копировать западный подход, который обожествляет информационное общество и превращает цифровые технологии в религию.
Не могу не рассказать одну историю. В 1969 году в Пентагоне моделировали на компьютере вьетнамскую войну. Заложили в него все данные. Компьютер работал долго. И выдал результат: «Вы победили в 1965 году». Можно оцифровать демократию, особенно сегодняшнюю, ритуальную. Но нельзя оцифровать народовластие. Можно оцифровать потребителя, но нельзя оцифровать гражданина. И нельзя оцифровать общество, которое осознает себя не объектом манипуляции, не объектом насилия со стороны безвестных «отцов основателей», которых никто не выбирал и которые нам навязывают разного рода фетиши. А общество, которое осознает себя субъектом политики, которое имеет избирательные права и которое готово спросить… а бабки где?
Алексей Юдин, историк: Все истории, рассказанные мифологией, — это очевидные предупреждения, сделанные заранее в качестве профилактики. И, как говорил наш блистательный златоуст совсем недавно: никогда такого не было, и вот опять. Это все было, на самом деле. И все попытки создания несамостоятельной жизни обречены на катастрофу поражения, и это урок.
Мысль, и она была заложена у президента, про инструмент. И вот вопрос: а может ли инструмент превратиться в орудие другого? И можно ли взять этот инструмент и использовать в совершенно иных целях? Но опять — кем? Опять — человеком.
В. Соловьев: Прогресс не остановить. Но очень важно, что находится в центре. Если в центре нашей цивилизации, нравится это кому-то или нет, есть понятие Бога, если мы понимаем, что изначально для нас в центре — Бог. А на это место запад ставит некий обожествленный ИИ… О чем говорит Путин? Путин говорит, что у нас в центре — сочувствие, совесть, мораль, понятие греха, а это все религиозные категории. А если их заменяют и ставят на их место сухое «рацио», то возникает базовый распад. Поэтому для нас очень важно не потерять себя, взять максимум технологически возможного, не потеряв этот сдерживающий элемент Бога. Цель человеческой жизни не определяется его физическим проживанием на земле.
А. Юдин: Мы обсуждаем такую ситуацию, в которой получается, что перед реальным или мнимым ИИ мы сдаем собственное достояние, собственные цели. Не он на нас наступает, а мы отдаем ему. И уже готовы к такой ситуации, что он нас заместит.
Д. Куликов: Это очень сильный соблазн. Сначала вместо Бога поставили человека с гуманизмом. Потом написали, что человек не справился и нужен сверхчеловек. Сверхчеловека создать не смогли, и теперь новый соблазн: если мы в человека что-то вживим, оснастим и подопрем машинами, то тут-то он, наконец-то, станет сверхчеловеком, и Бог нам окончательно будет не нужен! Вот и вся ситуация. Она старая, и человечество с ней всегда справлялось. И сейчас справится.

Подготовил
Александр ОКОНИШНИКОВ,
«ЧЕСТНОЕ СЛОВО»

P. S. Готовя этот материал к печати, мы решили «поручить» расшифровку этой дискуссии искусственному интеллекту. Благо, программ перевода устной речи в письменную сегодня достаточно. ИИ быстро перевел несколько минут разговора в телестудии в письменный текст. Боже праведный! Практически ничего понять из этого текста было невозможно. Не было ни точек, ни запятых, ни заглавных букв. Зато были в изобилии «э», «гм» и прочие междометия. Многие слова были распознаны неправильно. В итоге на обработку всего нескольких абзацев, которые предоставил нам ИИ, времени ушло гораздо больше, нежели мы потратили бы на самостоятельную расшифровку видеозаписи.

 

прямая речь

Председатель Издательского совета митрополит Калужский и Боровский Климент:
— Мы не можем говорить: Все это душевредные новинки, Церковь их осуждает! Технические открытия — результат действия в людях дара Божьего, то есть таланта к научной работе. Они порой несут безусловную пользу обществу. А вред, который они также могут принести, связан с неразумным или прямо злонамеренным использованием.
Поэтому Церковь должна уделять внимание цифровизации, ИИ и роботизации, давая нравственную оценку с точки зрения учения Христа явлениям, возникшим под влиянием прогресса. Прогресс останавливать не нужно, да и невозможно. Однако следует пристально вглядываться в проблему цены тех или иных изменений, происходящих в нашем обществе.