Мой взгляд на литературу - Станислав Лем

Но откуда взялась эта материальная «теория социального организма» в машине? Она возникла благодаря процессам противоречащих друг другу явлений самоорганизации. Потому что обучение у Природы приводит нас к выводу, что Природа не отделяет процессов формальных от эмпирических, как мы, что она делает «одно и другое одновременно», поскольку она также производит «уравнивания», такие информационные сообщения, элементы которых могут непосредственно входить друг с другом в реакции (физические, химические), и таким образом «формальный» язык генов есть одновременно материал для подстановки в определенных местах «генных уравнений». Может мы не сумеем создать ни одного «выращивания информации», но Природа его создала. Я думаю, что иначе это решить было нельзя. Природа должна была разгрызть твердый математическо-информационный орех, и она действительно разгрызла его так, будто читала Оккама, поскольку дальше, чем до молекулярного уровня записи информации, да такой, что сама с собой вступает в реакцию, будучи собственным строительным материалом, нельзя уже продвинуться для экономии средств и «существований».

Тем самым на выходах обеих систем, которые являются «гностическими творцами», мы получаем теорию, один раз в виде закодированной «неформально», и скорей – не только формально, а другой раз – в виде, к которому мы привыкли – определенной системы уравнений.

Различие, в конце концов, мало существенно, поскольку также и то, что закодировано в «теории – генотипе», можно декодировать. Однако же полцарства тому, кто, имея перед собой эти уже «расшифрованные» уравнения, мог бы их «понять»!

Если информационная вместимость яйцеклетки человека равняется количеству информации энциклопедии, то такую энциклопедию, в которой наверняка когда-то будет представлен генотип, можно будет прочитать только потому, что читатель будет знать физику, химию, биохимию, теорию эмбриогенеза, теорию самоорганизующихся систем и т.д. и т.п. Одним словом, будет знать язык и правила его применения. В случае теории, которую «родит» машина, он не будет знать ни языка, ни его правил; первое и второе он должен будет изучать. И вопрос в окончательной форме, звучит так: может ли он научиться?

Таким образом, в этом месте в наши рассуждения вмешивается фактор времени, поскольку вроде ясно, что надо больше времени, чтобы прочесть всю информацию, содержащуюся в бактериальной клетке и перекодированную на язык аминокислот или нуклеотидов, чем надо времени клетке, чтобы она поделилась. Во время одного прочтения, которое мы выполняем «глазами и мозгом», текста «сформализованной и перекодированной бактерии», она тем временем поделится сотни раз, ибо прочитает «сама себя» несравнимо быстрей в очередных делениях. В случае «теории общества», или в общем – системы чрезвычайно сложной – время чтения может оказаться таким, что читатель попросту уже потому только не поймет, что читает, что будет не в состоянии мысленно оперировать элементами «уравнений» – они слишком большие, ускользают у него из поля сознания, переступают диапазон его сконцентрированного внимания – это воистину труд данаид и сизифов одновременно – и проблема звучит тогда: будет ли сокращена теория в виде, представленным машиной, до формы достаточно простой, чтобы человек смог ее постичь?

Боюсь, что это будет невозможно. То есть, разумеется, это возможно, но только каждая очередная ее форма, выходящая из следующей редукции, окажется вместе с тем еще слишком «обширной» для человека, хотя уже – относительно «оригинала» – упрощенной вследствие потери элементов.

Машина будет тогда делать то, что делает физик, объясняя широкой общественности теорию гравитационных волн при помощи скупого арсенала школьной математики. Или то, что делает мудрец в сказке, который приносил жаждущему знаний королю по очереди – библиотеку на спинах стада верблюдов, затем – сотню томов во вьюках мулов, и, наконец – толстые книги, которые нес раб, ибо для короля эти очередные «редакции» были все еще «слишком обширны».

Из этого видно, что мы не должны уже рассматривать следующую (третью) возможность.

C) Машина может преодолеть интеллектуальный предел человека как в диапазоне того, что человек еще может, так и в диапазоне того, чего человек уже постичь не может. Потому что эта возможность следует как вывод при опровержении второй.

Вероятно, для того, до чего человек сможет разумом дойти сам, машина будет нужна человеку не иначе, как в качестве раба, который выполнял бы за него трудоемкие вспомогательные операции (счет, доставка нужной информации, а значит – «вспомогательная память» и «ассистент в последовательных операциях»). Там, где разумом он сам не дойдет, машина предоставит ему готовые модели явлений, готовые теории. Тогда вопрос – антиномический – о том, «как можно контролировать то, чего нельзя контролировать?». Может, следовало бы создать «машины антагонистические», которые бы взаимно (по результатам деятельности) контролировались? Но что делать, если они представят на выходах противоречивые результаты? Поскольку в конце концов от нас зависит, что мы сделаем с теориями, рожденными машинами, в столь конфликтной ситуации можно бы эти плоды автоматического воплощения и в печь бросить. Другое дело с машинами управляющими, то есть с теми, которые являются самым вероятным, по сути дела, воплощением усилителя интеллекта Эшби. Г-жа Эйлштейн подвергла сомнению строительство «электронного бога». Действительно, я думаю, что ее сомнения справедливы, и, пожалуй, никто никогда не станет строить «синтетического бога» (который как не-всезнающий и не-всесильный, был бы «богом убогим»).

Science Fiction много нагрешила, а одно из ее наибольших прегрешений – это тотальное, как норма, фальсифицирование реальных обстоятельств, в которых и из которых рождаются открытия или изобретения. В Science Fiction сначала нет ничего, затем неожиданно появляется какой-то большой разум и строит «сам» ракету, на которой полетит, да еще сразу же на Луну; или опять группа каких-то людей строит машину, которая «сразу» принимается за то, чтобы покорить человечество. Сам я тоже здесь не без греха. Все же я думаю, что такие вещи можно писать, потому что это между прочим также и наукоподобная сказка, развлечение; однако же с реальностью такие образы не имеют ничего общего. Роботов, одаренных человеческой индивидуальностью, не будут строить, только разве что в таких целях, какие Фриц Лейбер представил в своем романе «The Silver Eggheads»[201], в котором присутствуют даже развлечения с электронными дамами, которые во время «этого» органным голосом напевают Баха или имеют хвост как химеры. Зато появятся и будут разрастаться машинные центры, управляющие производством, товарным оборотом, распределением, услугами, как и управляющие исследованиями (координация усилий ученых, поддерживаемых в фазе ранней «симбиотически» вспомогательными машинами). Следовательно, такие локальные координаторы нуждаются в вышестоящих в масштабе, скажем, страны или континента. Возможны ли между ними конфликтные ситуации? Конечно, возможны. Происходить будут конфликты в плоскости инвестиционных, исследовательских, энергетических решений, ибо надо ведь будет определять приоритеты различных действий и шагов, принимая во внимание множество взаимно связанных факторов. Надо будет такие конфликты разрешать. Разумеется, поэтому скажем быстро: это будут делать люди. Очень хорошо. Следовательно, решения будут касаться проблем огромной сложности и люди – контролеры Координаторов – должны будут, чтобы разобраться в представленном им математическом море, прибегнуть к помощи других машин, а именно – оптимизирующих решения. Над всем этим существует глобальный аспект экономики; ее также следует координировать. Планетарный Координатор – это машина с «личным советом», состоящим из людей, которые проверяют локальные решения систем «контролеры – машины» отдельных континентов. Как это делают? Они имеют собственные машины для оптимизации решения. И так: возможно ли, что их машины, дублируя, в целях контроля, работу континентальных машин, дадут разные результаты?

И это абсолютно возможно, поскольку каждая машина, во время выполнения определенной секвенции шагов, из которых складывается решение задачи (методом, допустим, очередных приближений, ибо материал переменных огромен), становится каким-то образом пристрастна. Известно, что ни один человек в принципе не может быть беспристрастным; почему должна быть беспристрастна машина? Пристрастность не должна представлять результат эмоциональных предпочтений – она следует уже из придания различного веса конфликтующим друг с другом участникам альтернативы. Возможны ли такие «оценки» этих участников несколькими машинами, работающими независимо, которые бы между собой отличались? Ну да, поскольку эти машины, будучи в силу обстоятельств вероятностными системами, не действуют тождественно. Не всегда разброс результатов будет большим, ибо это зависит от характера решаемых задач; если задача звучит: «Можно ли выслать на Марс последующие сто миллионов тонн воды?», ответ можно будет дать легко; другое дело, когда надо принять во внимание ситуацию, составляющую настоящую пирамиду конфликтующих между собой интересов, менее и более локальных. Что делать с противоречивыми оценками машин, которые должны были поддержать человека, который должен был разрешить спор Координаторов? Regressus ad infinitum невозможен, следует что-то начать. Но что? Выглядит это так: или электронные Координаторы не умеют учитывать одновременно больше переменных, чем человек, и тогда не надо их вообще строить, или умеют – и тогда человек не может сам в результате «разобраться», т.е. не сумеет принять независимого от машины решения, опираясь на «собственное мнение» о ситуации; Координатор справляется с заданием, но человек-«контролер» ничего не контролирует, а только так ему кажется. Разве это не ясно? Машина, к помощи которой обращается человек-контролер, в полном смысле является дублером Координатора, и человек в этом месте является гонцом по мелким поручениям, который переносит с места на место информационную ленту. Если же две машины дают неодинаковые результаты, человек не может сделать ничего другого, как только бросить монету, чтобы выбрать: он превращается из «высшего надзирателя» в механизм случайного выбора! И ведь опять, сейчас имея машины только управляющие, сложилась ситуация, когда они становятся «быстрее» человека. Prima facie следовало бы это сделать для них невозможным, в силу такого вот, например, закона: «Запрещается строительство и использования координирующих машин, потенциал переработки информации которых не обеспечивает человеку-контролеру полный доступ к результатам их деятельности». Однако это чистая фикция, потому что когда объективная динамика процессов для регулирования будет требовать дальнейшего разрастания Координаторов, «барьер человеческих возможностей» следует преодолеть; и вот опять антиномия.