Логико-математические аргументы против искусственного интеллекта (геделевский аргумент и аргумент китайской комнаты)

В данном параграфе мы рассмотрим некоторые аргументы, которые приводят противники искусственного интеллекта, прежде всего те аргу­менты, которые, как полагают, указывают на принципиальную невозмож­ность его создания. Мы рассмотрим т. н. «геделевский аргумент», который в последнее время используется, в частности, как аргумент в пользу тезиса «невозможности алгоритмической имитации» функции сознания, а также рассмотрим предложенный Дж. Серпом «аргумент китайской комнаты», который также косвенно указывает на невозможность создания «искусст­венного разума».

Рассмотрим сначала геделевский аргумент. Сторонники этого аргу­мента полагают, что из теоремы К. Геделя о неполноте формальных систем вытекает некоторое принципиальное различие между искусственным (ма­шинным) интеллектом и человеческим умом. Точнее говоря, полагают, что теорема Геделя указывает на принципиальное преимущество человеческо­го интеллекта перед машинным. Ограниченность же «искусственного ин­теллекта» проистекает из его формального характера.

«Геделевский аргумент» в настоящее время поддерживается рядом известных авторов Дж. Лукас^[1], Р. Пенроуз^[2] и др. и вызвал обширную дискуссию в научных кругах^[3].

Прежде чем приступить к анализу самого «геделевского аргумента», рассмотрим вкратце формулировку, способ доказательства и смысл теоре­мы К. Г еделя (доказана в 1931 г.) о неполноте формальных систем.

Обычно эту теорему формулируют так: для достаточно выразительно «мощных» формальных систем - достаточно «мощных» для того, чтобы с их помощью можно было сформулировать любые утверждения формали­зованной арифметики Пеано - невозможно задать формализованную сис­тему доказательств (дедуктику), которая одновременно обладала бы свой­ствами полноты (т. е. доказывала бы все содержательно истинные утвер­ждения, которые можно сформулировать с помощью данного языка) и не­противоречивости (т. е. не доказывала бы некоторое суждение вместе с его отрицанием). Иными образом, теорема Геделя утверждает, что в «вырази­тельно богатых» формальных языках обязательно найдутся истинные, но недоказуемые утверждения.

Подчеркнем, что этот результат не зависит от конкретного выбора дедуктики. Это значит, что множество «содержательных» истин всегда бу­дет превосходить по объему множество истин, доказуемых с помощью любой сколь угодно сложной формализованной системы доказательств. Чтобы понять смысл Геделевской теоремы, необходимо уточнить понятие «формальной системы» - поскольку только к таким системам и имеет от­ношение рассматриваемая теорема. Формальная система - это система подчиненная неким жестким, однозначно заданным правилам. «Формали­зацию» можно определить как процедуру, цель которой - дать предельно четкое, однозначное и исчерпывающее описание подлежащего формализа- цянг объекта. Для достижения этой цели используется символическая форма записи правил, которым подчинена данная система. Таким образом, формализованная научная теория должна представлять собой некоторую совокупность формул, записанных без всяких пояснительных слов или предложений, написанных на естественном языке. Использование симво­лической записи предполагает фиксацию конечного набора символов, ко­торые только и могут быть использованы для формулирования утвержде­ний данной формальной системы (алфавит языка). Кроме того, задается совокупность правил, указывающих, как следует оперировать с заданными символами.

Главное требование к формализму - используемые символы должны принимать лишь те значения, которые им приписываются в явном виде. Фиксированные значения символов задаются посредством набора правил, указывающих способ действия с тем или иным символами, а также через описание взаимных отношений между символами. Они образуют «фор­мальный язык». Формальный язык с заданной на нем дедуктикой образу­ет некоторое «исчисление» или дедуктивную систему. Это формализован­ные описания тех или иных дедуктивных математических теорий (напри­мер, формализованной арифметики, геометрии и т. п.).

Теорема Геделя утверждает, что для любого достаточно выразитель­но богатого языка и для любой непротиворечивой дедуктики, заданной на этом языке, множество истинных формул всегда больше множества дока­зуемых формул. Т.е. для любой дедуктики можно указать формулу (пред­ложение), которая будет содержательно истинна, но недоказуема (в рамках данной дедуктики). Такие формулы называют «геделевскими предложе­ниями».

Это весьма нетривиальный результат. Ведь задавая дедуктику, преж­де всего, стремятся получить систему доказательств, в которой выводились бы все содержательно истинные формулы. Такие дедуктики называются полными и они реально существуют (например, полная дедуктика может быть задана для исчисления высказываний и для исчисления предикатов первого порядка). Но это не возможно для более сложных формальных языков, способных, в частности, выразить все истинные предложения формальной арифметики Пеано (например, для исчисления предикатов второго порядка).

Ясно, что любое «геделевское предложение» легко можно сделать доказуемым, просто включив его в список аксиом данной формальной сис­темы. Но в таком случае можно сформулировать новое «геделевское пред­ложение», которое утверждает собственную не выводимость уже из нового набора аксиом. Ситуация не улучшиться даже в том случае, если мы будем вводить дополнительные аксиомы не отдельными единицами, а, введем в систему аксиом сразу бесконечное множество «геделевских предложе­ний». И в этом случае можно построить формулу, которая будет утвер­ждать собственную невыводимость из аксиом, включая и любые аксиомы из заданного бесконечного множества (выразительные возможности фор­мализма таковы, что позволяют делать указания сразу не бесконечную со­вокупность объектов, если они выделены по какому-либо формальному признаку). Т.о. система аксиом не будет удовлетворять требованию полно­ты даже в том случае, если ее пополнить любым счетно-бесконечным множеством дополнительных аксиом. Как отмечает JI. Г. Антипенко, «за­пас арифметических истин оказался столь обширен, что ни из какой даже счетно-бесконечной фиксированной системы аксиом их нельзя формально вывести все»^[4].

Таким образом, никакое непротиворечивое расширение множества доказуемых формул не позволяет сделать это множество тождественным множеству всех содержательно истинных предложений формального язы­ка - при условии, что данный язык позволяет формулировать предложе­ния, выражающие собственную не выводимость из аксиом любой, задан­ной в рамках данного формального языка, дедуктики.

Прямой смысл теоремы Геделя можно усмотреть в констатации не­возможности полной формализации содержательного понятия «истины» в математике. Но поскольку истина в математике всегда получается через посредство доказательства, то можно сделать вывод о невозможности пол­ной формализации способности человека доказывать математические предложения. Любой формализм отражает лишь некоторую часть этой способности, т. е., по сути, представляет собой лишь формализацию «постфактум» конкретных содержательных схем математических рассуж­дений. Но человек, в силу своих интуитивных творческих способностей, может придумать новые схемы рассуждений, которые не могут быть втиснуты в рамки уже известных, ранее заданных формальных систем.

Нас, интересует применение теоремы Геделя, в качестве аргумента в пользу невозможности искусственной (алгоритмической, машинной) ими­тации функции сознания человека. Если смысл теоремы Г еделя усмотреть в невозможности формализации содержательного понятия истины, то уже отсюда следует невозможность создания машины способной столь же эф­фективно, как это делает человек, различать истину и ложь Преимущество человека перед машиной можно увидеть в том, что человек способен в лю­бых случаях распознавать истинность «геделевских предложений», а ма­шина делать это не способна. Это рассуждение предполагает отождеств­ление машины и формальной системы. И в самом деле, условием передачи каких-либо функций машине является формализация, т. е. четкое, полное, однозначное, независимое от контекста описание способа осуществления данной функции. Мы не можем воплотить в машине что-то такое, что мы сами недостаточно ясно себе представляем, то, что мыслится нами неодно­значно, интуитивно, что зависит от контекста. Таким образом, «машини­зация» и «формализация» - тесным образом взаимосвязаны.

Поскольку речь идет о «функции сознания», то нужно, предвари­тельно уточнить смысл, который мы вкладываем в данный термин. Уже Декарт рассматривал человеческую «душу» как особый «функциональный орган», т. е. рассматривал сознание с точки зрения тех функций, которые оно выполняет. Формально психические функции можно представить как некое отображение множества входов (конфигураций нервных импульсов, поступающих в мозг от органов чувств) во множество выходов (множество различных поведенческих реакций, выражаемых, в конечном итоге, в виде физических движений тела).

Тезис невозможности алгоритмической имитации функции сознания означает, что нам никогда не удастся построить алгоритмическое устрой­ство, способное достаточно удовлетворительным образом имитировать от­ношение «вход - выход» - характерное для человеческой психики. В каче­стве теста на соответствие искусственного интеллекта уровню человече­ского интеллекта рассматривают игру в имитацию, предложенную А. Тью­рингом. (Машинный интеллект считается эквивалентным человеческому, если в заочном диалоге с машиной человек не сможет достоверно устано­вить с кем он общается - с машиной или с человеком).

Чтобы иметь возможность работать с понятием алгоритма в матема­тике, необходима его формализация. Формализация алгоритма - это, по существу, формализация понятия вычисления функции. Начиная с 1936 года, был предложен целый ряд таких формализаций (машина Тьюринга, Машина Поста, нормальные алгоритмы Маркова, рекурсивные функции и др.). Самая известная формализация понятия алгоритма - это так называе­мая «машина Тьюринга». Машина Тьюринга - это воображаемое вычисли­тельное устройство (машина) способная с помощью простейших операций перерабатывать некоторые последовательности символов в другие после­довательности. Несмотря на весьма примитивное устройство, машина Тьюринга, тем не менее, является универсальным вычислительным уст­ройством. Как показывает опыт, с помощью машины Тьюринга можно осуществить любые, сколь угодно сложные алгоритмические вычисления. Если известен какой-либо алгоритм решения той или иной массовой про­блемы, то всегда можно составить и программу для машины Тьюринга, ко­торая позволяет решать эту проблему с помощью данной машины. Таким образом, возможностей у машины Тьюринга не меньше, чем у самого со­временного компьютера. Даже больше, - поскольку машина Тьюринга об­ладает потенциально неограниченной памятью. Учитывая сказанное, мож­но сделать вывод, что машина Тьюринга является адекватной формализа­цией интуитивного понятия вычислительной процедуры, а ее функцио­нальная таблица, соответственно, адекватной формализацией понятия ал­горитм.

Как уже отмечалось, машина Тьюринга не является возможной един­ственной формализацией понятий вычисления и алгоритма. Существуют также и другие, столь же адекватные формализации этих понятий (машина Поста, нормальные алгоритмы, рекурсивные функции и др.). Все эти фор­мализации эквивалентны друг другу, т. е. существуют стандартные алго­ритмы, позволяющие программу для машины Тьюринга перевести в нор­мальный алгоритм или программу для машины Поста и т. д., и также воз­можен и обратный перевод. Любая функция, вычислимая по Тьюрингу, вычислима также посредством машины Поста, нормальных алгоритмов или рекурсивных функций.

Если мозг - своего рода машина, функции которой можно достаточ­но четко и однозначно описать в виде конечной инструкции, то никакие особенности его конструкции не позволят ему выйти за пределы круга за­дач, разрешимых, скажем, с помощью машины Тьюринга. Разница между мозгом и компьютером, с этой точки зрения, может быть лишь только ко­личественной. Мозг может превосходить компьютер лишь в силу больше­го быстродействия и большего объема доступной памяти.