Новый ум короля: О компьютерах, мышлении и законах физики - Роджер Пенроуз

Можно представить себе, конечно, что все могло бы происходить совсем не так, и что по прошествии достаточного количества времени компьютерная программа могла бы самостоятельно эволюционировать в процессе некоего естественного отбора. Если верить, что действия, производимые в сознании программистов, сами являются всего лишь алгоритмами, то надо с необходимостью согласиться с тем, что таким же образом развились и алгоритмы. Но меня здесь беспокоит то, что принятие решения о правомерности использования алгоритма отнюдь не является алгоритмическим процессом. Кое-что об этом уже было сказано в главе 2. (Будет или нет машина Тьюринга на самом деле останавливаться — вопрос, который не может быть решен алгоритмическим путем.) Чтобы решить, будет ли алгоритм действительно работать, нужно глубокое понимание, а не просто еще один алгоритм.

Тем не менее, можно было бы представить себе, что существует определенный процесс естественного отбора, который способен создавать довольно эффективные алгоритмы. Лично мне, однако, очень трудно в это поверить. Любой процесс отбора такого рода мог бы оказывать воздействие только результаты выполнения алгоритмов[214], а не на лежащие в основе этих алгоритмов идеи. И это не только совершенно неэффективно — я думаю, что это не принесло бы вообще никакого результата. Во-первых, нелегко определить, глядя на итог работы алгоритма, что он из себя на самом деле представляет. (Нетрудно сконструировать две простые, но совершенно различные процедуры для машины Тьюринга, выходные ленты которых совпадали бы, скажем, до 265536-й позиции — и тогда их различие не было бы замечено даже за всю историю вселенной!) Более того, малейшая «мутация» алгоритма (например, небольшое изменение в описании машины Тьюринга или в ее выходной ленте) сделала бы ее полностью бесполезной; поэтому трудно понять, как настоящие усовершенствования алгоритмов могут получаться таким вот случайным образом. (Даже обдуманные усовершенствования труднореализуемы, когда неизвестен их точный «смысл». Так традиционно получается в тех нередко возникающих ситуациях, когда необходимо внести изменения или исправления в сложную и небрежно задокументированную программу, чей автор находится вне пределов досягаемости или давно умер. Тогда вместо того, чтобы пытаться разобраться в хитросплетениях разнообразных промежуточных значений и неявных подзадач, на которых базируется эта программа, иной раз бывает проще стереть все и начать заново!)

Предположим, что мог бы быть разработан гораздо более «здоровый» метод определения алгоритмов, в отношении которого вышеприведенная критика становилась бы беспочвенной. В некоторым роде, это как раз то, о чем я и говорю. «Здоровые» определения — это идеи, на которых базируется алгоритм. Но идеям, насколько нам известно, для своего выражения требуется разум, наделенный сознанием. А значит, мы вновь возвращаемся к проблеме определения сознания и тех его свойств, которые отличают обладающих сознанием существ от остального мира — и к вопросу о том, как, черт побери, естественный отбор мог оказаться достаточно «умным», чтобы развивать такие замечательные свойства.

Результаты естественного отбора и в самом деле удивительны. Те скромные познания о функционировании человеческого мозга — и, разумеется, мозга любых других существ — которыми я обладаю, просто ошеломляют меня, заставляя испытывать благоговейный трепет. Работа отдельного нейрона поразительна, но все вместе нейроны представляют еще более впечатляющую структуру, с самого момента рождения насчитывающую огромное множество соединений и связей, которые в дальнейшем позволят ей решать практически любые задачи. Замечательно не только само сознание, но и все то, что связано с обеспечением его деятельности!

Если бы однажды нам довелось обнаружить то свойство, которое позволяет физическому объекту обретать сознание, то, изучив его во всех деталях, мы, вероятно, могли бы сконструировать подобные объекты для собственных нужд — хотя они не обязательно расценивались бы как «машины», в современном понимании этого слова. Нетрудно предположить, что такие объекты могли бы многократно нас превосходить, ибо они были разработаны специально для этой задачи — т. е. для обретения сознания. Им бы не пришлось вырастать из одной клетки. Им бы не пришлось нести на себе «багаж» предков (старые и «бесполезные» части мозга или тела, которые продолжают существовать в нас только благодаря «несчастьям», приключившимся с нашими далекими предками). Можно также представить себе, что благодаря этим преимуществам, такие объекты могли бы по-настоящему заменять собой людей там, где (по мнению тех, кто согласен со мной) алгоритмические компьютеры обречены на выполнение обслуживающих функций.

Но вполне возможно, что тема сознания имеет гораздо больше аспектов. Может быть и так, что каким-то образом наше сознание действительно зависит от нашего наследия и от миллионов лет эволюции, лежащих у нас за спиной. Меня не покидает ощущение, что в самой эволюции, в ее явном «нащупывании» пути к какой-то будущей цели есть что-то загадочное и непостижимое. Кажется, что все организовано несколько лучше, чем оно «должно было быть» на основе слепой эволюции и естественного отбора. Вполне возможно, однако, что внешние проявления здесь обманчивы. Возможно, это как-то связано с тем способом, каким действуют физические законы, что позволяет естественному отбору протекать гораздо эффективнее, чем в случае, если бы этот процесс управлялся произвольными законами. Возникающее в результате явно «интеллектуальное нащупывание» — это отдельная интересная тема, к которой я вернусь несколько позже.

Неалгоритмическая природа математической интуиции

Как я уже указывал ранее, моя уверенность в том, что сознание способно влиять на характер суждений об истинности неалгоритмическим путем, опирается главным образом на результаты теоремы Геделя. Если мы видим, что сознание действует неалгоритмически при формулировании математических суждений, где вычисления и строгие доказательства являются непременным требованием, то уж наверняка нас нетрудно будет убедить и в том, что эта неалгоритмическая составляющая могла бы являться решающей и для роли сознания при более общих (не связанных с математикой) обстоятельствах.

Вспомним доводы, приведенные в главе 4 в рамках доказательства теоремы Геделя и устанавливающие ее применимость к решению вопроса о вычислимости. Там было показано, что какой бы (достаточно сложный) алгоритм ни использовал математик для установления математической истины или, что то же самое[215], какую бы формальную систему он[216] ни принял для задания своего критерия истинности — всегда найдутся математические суждения, подобные сформулированному Геделем утверждению Pk(k) для системы (см. Глава 4. «Теорема Геделя»), на которые его алгоритм не сможет дать ответа. Если ум математика работает полностью алгоритмически, то алгоритм (или формальная система), которые он обычно использует для построения своих суждений, оказываются не в состоянии справиться с утверждением Pk(k), полученным с помощью его собственного алгоритма. Тем не менее, мы можем (в принципе) понять, что Pk(k) на самом деле истинно! Этот факт, по всей видимости, должен был бы указать ему на противоречие, поскольку он, как и мы, не может не заметить его. А это, в свою очередь, может свидетельствовать о неалгоритмическом характере его рассуждений!

В этом заключается суть довода, предложенного Лукасом [1961] в поддержку точки зрения, согласно которой деятельность мозга не может быть полностью алгоритмической, против которого, однако, время от времени выдвигались различные контрдоводы (см., например, Бенасерраф [1967], Гуд [1969], Льюис [1969, 1989], Хофштадтер [1981], Бови [1982]). В связи с этой дискуссией я должен подчеркнуть, что термины «алгоритм» и «алгоритмический» относятся к чему угодно, что может быть (достоверно) смоделировано на компьютере общего назначения. Сюда включается, конечно, как «параллельная обработка», так и «нейросети» (или «машины с переменной структурой связей»), «эвристика», «обучение» (где всегда заранее задается определенный фиксированный шаблон, по которому машина должна обучаться), а также взаимодействие с внешним миром (которое может моделироваться посредством входной ленты машины Тьюринга). Наиболее серьезным из этих контраргументов является следующий: чтобы действительно убедиться в истинности утверждения Pk(k)нужно знать, какой именно алгоритм использует математик, и при этом быть уверенным в правомерности его использования в качестве средства достижения математической истины.