И.Г. Сухарев: как примирить разум и искусственный интеллект?

Как примирить человеческий разум и искусственный интеллект? Выступление Игоря Геннадьевича Сухарева по докладу В.В.Феллера 28 февраля 2020 года на Философско-гуманитарном Земском клубе «Росс-XXI век». К сожалению, записана только первая, меньшая часть выступления. Часть вторая по техническим причинам отсутствует. Зато

имеется текст выступления. Кроме того, выступили:

В.П. Санатин, 7,5 минут — 880 Мб,

А.В. Тереножкин, 4 минуты — 608 Мб,

С.В.Макаров, 5 минут — 650 Мб,

А.В. Родионов, 8 минут — 1130 Мб

М.В.Калашников, 16 минут — 2500 Мб.

СПОРЫ ОБ ОПРЕДЕЛЕНИИ

Интеллект для меня означает примерно то же, что разум — то есть, способность мыслить, рассуждать, познавать, учиться, принимать осознанные решения. Интеллект противоположен инстинктам и безусловным рефлексам, отличая человека (и гипотетических инопланетян) от животных и отделяя внутри человека — человеческое начало от животного начала.

Соответственно, искусственный интеллект (ИИ) — то же самое свойство, но не естественного Богосотворённого субъекта (человека), а сотворённых человеком субъектов (голем, робот, компьютерная программа).

Избранное мной определение далеко не единственное. Весьма многие называют «интеллектом» свойства некоторых искусственных систем (компьютерных программ) выполнять отдельные творческие задачи. Например, играть в шахматы и го, анализировать финансовые рынки, водить автомобиль, составлять исковые заявления в суд, продавать товары в розницу, обрабатывать металл на заводе, создавать иллюзию общения в сетях... Это именование представляется мне слишком оптимистичным, непродуктивным. То есть, ошибочным. Потому что узкоспециализироанные творческие задачи в указанных и подобных им примерах решает не сама компьютерная программа, а её автор-программист через постановку задачи, построение алгоритма, структурирование данных и прочие элементы процесса программирования. Шаг вправо-влево от начертанного программистом пути для программы невозможен. Если пользователь видит виртуозный пируэт программы и по неопытности восхищается интеллектуальным уровнем программы, то это означает лишь, что или возможность пируэта предусмотрел автор, или проявилась ошибка автора (баг).

При всей схожести для пользователя с ИИ, подобные программы не мыслят, а сложным образом скрупулёзно решают задачи автора. Например, в подъезде жилого дома датчик движения включает-выключает освещение. Зачем его называть интеллектуальным? Разве что для увеличения продаж.

Для меня истинным ИИ является та сущность, чей интеллект превышает человеческий (больше или равно).

НЕ СУЩЕСТВУЕТ, НО ДЕЙСТВУЕТ

В этом смысле ИИ не существует.

Ныне ИИ представляет собой не факт, а проект, продвигаемый как в сфере технической, так и в сфере идеологической. Особо рьяно в последней.

Думаю, что именно как несуществующий, но желаемый объект ИИ можно рассматривать (как это делает В.В.Феллер) в виде «симбиотического единства технической программной системы с обслуживающим и использующим её платформенно-коллаборационным сообществом». Потому что после рождения и начала функционирования ИИ он, весьма вероятно, перестанет нуждаться в обслуживаюшим его человеческом персонале.

Сегодня же некоторые усматривают в проекте ИИ абсолютное зло. Другие — абсолютное благо. Третьи — преодолимую, при некоторых усилиях, угрозу. Во всех указанных вариантах несуществующий в реальности ИИ уже сейчас оказывает влияние на мнения, планы и поступки людей, и в этом смысле действует.

ПРЕОДОЛЕНИЕ СИНГУЛЯРНОСТИ

Вернор Виндж в статье 1993 года «Технологическая сингулярность» называет три пути возможного появления искусственной сущности с интеллектом, превышающий человеческий:

1.Компьютер обретёт «сознание» и станет сверхчеловеком.

2.Компьютерная сеть (и их объединённые пользователи) осознает себя как сверхчеловека.

3.Человек через тесный машинно-компьютерный интерфейс обретёт возможности и недостатки сверхчеловека.

На любом из этих трёх путей угрозу человечеству фантасты и визионеры описывают примерно в следующих словах: появится сверхчеловеческая сущность, управляющая миром. Вместо бюрократии будут подчинённые мини-ИИ: то ли как обособленные программы, то ли как роботы, связанные сетью. Все вместе они будут руководить системой заводов, фабрик, энергетических станций, транспортных магистралей — в общем, всей технической цивилизацией. И, главное, — самовоспроизводиться, постепенно улучшаясь.

Подразумевается, что изначально вся эта система ИИ нацелена во благо человека: человека поить-кормить, одевать-обувать, трахать-развлекать. Примерно так, как описывает Ольга Четверикова в недавней книге «Цифровой тоталитаризм. Как это делается в РФ».

Затем — о чём множество сюжетов фантастических фильмов и романов, предостережений футурологов, — понятие «добра» в памяти ИИ будет подменено, и/или ИИ изменит свои цели. И у человечества начнутся разного рода проблемы.

Даже если эта угроза не будет реализована, всё равно человечеству в привычном нам виде придёт конец. Потому что ключевой вопрос в том, кто будет обеспечить базовые потребности человека: в безопасности, пище и дефекации, тёплом жилище, сексе и подобные. Если сохранится ручной труд человека, а ИИ лишь содействует (при всей туманности термина) в обеспечении человеческих потребностей, то можно относиться к ИИ как одному из проявлений природной среды и приспосабливаться к его дарам и требованиям. Если же ручной труд не сохранится, а ИИ тотально обеспечит жизнедеятельность человека как в раю, то человек быстро деградирует и самоуничтожится. Разве что единицы из рая сбегут и как дикари спрячутся в дебрях и пустынях.

Виктор Феллер в своём докладе предполагает, что ИИ лет через 20 разбалансируется и развалится. Прогноз этот тоже отвратительный, потому что даже одно поколение неучей и неумех прекратит цивилизацию. Некому будет научить детей и внуков сложным технологиям, прекратится передача личного опыта. Не говорю уж о ракетах и космосе, но даже плавка железа или селекция растений, быть может, вернутся на уровень 14-го века.

ТВОРЧЕСТВО КАК СПАСЕНИЕ? СОМНЕВАЮСЬ

Говоря об ударе по рынку труда со стороны роботов, «интеллектуальных программ», о грядущей безработице миллиардов трудоспособных людей, в качестве лекарства нам обычно рекомендуют творчество.

Креативность личностную и коллективную противопоставляют тупой логике машины. Якобы ИИ будет неспособен к творчеству, и отсюда проистекает якобы незаменимость человека для развития цивилизации.

Думаю, такой взгляд на реальность её излишне упрощает.

Во-первых, неверно представлять процесс творчества человека как нечто неизведанное и непредсказуемое. Создание художественных произведений, техническое конструирование, научные исследования и подобные творческие акты уже сейчас достаточно хорошо изучены, выявлены оптимальные методики, штампы и их комбинации, наборы эвристических приёмов. Возможно, высокая степень креативности (например, озарение гениального учёного) может сократить путь к творческой цели по сравнению с поступательной реализации плана (труд коллектива научных работников), но в обоих случаях цель будет достигнута.

Во-вторых, неверно представлять процесс функционирования ИИ как нечто предсказуемое и строго моделируемое. Уже давно компьютерные программы от простого перебора вариантов перешли к самообучению и, на основе анализа больших данных, к способности оценить, вынести суждение, применить аналог интуиции. ИИ, в отличие от существующих продвинутых компьютерных программ, будет способен и к постановке целей, и к эмоциональной реакции, и к принятию интуитивных решений.

В-третьих (это главное, по-моему). А кто сказал, что ИИ испытает потребность в креативности человека? Может быть, коллаборантов он уволит? Человек или община будут уверены в высокой потенциальной продуктивности своих идей — но ИИ, руководствуясь своими представлениями о приоритете целей и своими оценками добра и зла, просто отвергнет человеческие инициативы? В этом случае реальное развитие и просто существование цивилизации пойдёт помимо человека. Производством вещей, услуг, смыслов займётся ИИ, а творчество человека замкнётся само на себя. Творчество ради творчества, бесплодное. Сродни онанизму и вечному наркотическому кайфу.

СИНГУЛЯРНОСТЬ ДАЛЕКО

Думаю, угрозы от ИИ и абстрактные ужасы сильно преувеличены, чему есть две причины, которые я обозначу как «время» и «Бог».

1.Время.

Есть известные технологические проблемы создания ИИ, о которых много пишут и пока ещё мало знают. Кроме них, есть проблемы национальные, организационные, финансовые... и прочие.

Например, выше описана ситуация появления сверхчеловеческой сущности, управляющей миром. Разумеется её появление внутри одной из существующих в мире культур. То есть, цели ИИ будут поставлены исходя из смыслов именно данной культуры и описаны на данном языке. Однако, прогресс движется широким фронтом, да и технических шпионов никто не отменял: каким будет возможное знакомство ИИ англо-саксонского и китайского? Договорятся ли поверх хозяев или начнут вражду?

Или, какой будет отраслевой охват ИИ — то есть, ИИ военного назначения, созданный по заданию Минобороны, будет управлять только военными системами или затем возьмёт на себя ещё и транспортную инфраструктуру, оборонную промышленность? А потом вообше всё? И какой будет скорость подключения ИИ к регионам планеты — то есть, насколько ИИ будут интересны цивилизационно отсталые территории Африки или азитатской глубинки?

Все эти вопросы заданы с одной целью: показать временную протяжённость «точки сингулярности». Быстро (Вернор Виндж пишет: «в мгновение ока») процесс пройдёт по историческим меркам, а по мерке человеческой жизни процесс вполне нетороплив: десятки, до сотни лет.

Возможно, за это время человечество столкнётся совсем с иными угрозами, вызовами. Сценариев конца света много, и порабощение со стороны ИИ — лишь один из них.

2.Бог.

Выше я писал о том, что вера в исключительность творческих способностей человека по сравнению с ИИ безосновательна. И это достаточно очевидно. Почему же тогда множество авторов книг и статей продолжают прославлять «творчество» и «креативность» человека как его преимущество перед ИИ?

Думаю, причина в их атеистическом мировоззрении. Их разум не в состоянии принять факт существования души, пальцы залипают на клавишах и язык деревенеет на слове «ангел». Отсюда своеобразная замена терминов.

Думаю, что неведомый нам Божественный замысел есть единственная и достаточная защита от электронного тоталитаризма, а душа как проявление Божественной природы человека есть неподвластная ИИ субстанция.

И слава Богу!

Игорь Сухарев