Мой взгляд на литературу - Станислав Лем

И это абсолютно возможно, поскольку каждая машина, во время выполнения определенной секвенции шагов, из которых складывается решение задачи (методом, допустим, очередных приближений, ибо материал переменных огромен), становится каким-то образом пристрастна. Известно, что ни один человек в принципе не может быть беспристрастным; почему должна быть беспристрастна машина? Пристрастность не должна представлять результат эмоциональных предпочтений – она следует уже из придания различного веса конфликтующим друг с другом участникам альтернативы. Возможны ли такие «оценки» этих участников несколькими машинами, работающими независимо, которые бы между собой отличались? Ну да, поскольку эти машины, будучи в силу обстоятельств вероятностными системами, не действуют тождественно. Не всегда разброс результатов будет большим, ибо это зависит от характера решаемых задач; если задача звучит: «Можно ли выслать на Марс последующие сто миллионов тонн воды?», ответ можно будет дать легко; другое дело, когда надо принять во внимание ситуацию, составляющую настоящую пирамиду конфликтующих между собой интересов, менее и более локальных. Что делать с противоречивыми оценками машин, которые должны были поддержать человека, который должен был разрешить спор Координаторов? Regressus ad infinitum невозможен, следует что-то начать. Но что? Выглядит это так: или электронные Координаторы не умеют учитывать одновременно больше переменных, чем человек, и тогда не надо их вообще строить, или умеют – и тогда человек не может сам в результате «разобраться», т.е. не сумеет принять независимого от машины решения, опираясь на «собственное мнение» о ситуации; Координатор справляется с заданием, но человек-«контролер» ничего не контролирует, а только так ему кажется. Разве это не ясно? Машина, к помощи которой обращается человек-контролер, в полном смысле является дублером Координатора, и человек в этом месте является гонцом по мелким поручениям, который переносит с места на место информационную ленту. Если же две машины дают неодинаковые результаты, человек не может сделать ничего другого, как только бросить монету, чтобы выбрать: он превращается из «высшего надзирателя» в механизм случайного выбора! И ведь опять, сейчас имея машины только управляющие, сложилась ситуация, когда они становятся «быстрее» человека. Prima facie следовало бы это сделать для них невозможным, в силу такого вот, например, закона: «Запрещается строительство и использования координирующих машин, потенциал переработки информации которых не обеспечивает человеку-контролеру полный доступ к результатам их деятельности». Однако это чистая фикция, потому что когда объективная динамика процессов для регулирования будет требовать дальнейшего разрастания Координаторов, «барьер человеческих возможностей» следует преодолеть; и вот опять антиномия.

Можно спросить, не мистифицировал ли я проблему? Ведь мы справляемся сегодня вообще без всяких машин! Да, но мы еще живем в обществе, в таком понимании, простом. Между цивилизацией, такой как наша – относительно примитивной, и в высшей степени сложной – как будущая, есть по меньшей мере такая разница, как между машиной в классическом смысле и в смысле живого организма. Машины в классическом смысле и «простые» цивилизации имеют различные разновидности самовозбуждающегося колебания, неконтролируемые колебания параметров, которые вызывают здесь кризис экономический, там – голод, где-то отравление фалидомидом или неожиданное открытие, через двадцать лет после первого атомного взрыва, что вовсе не радиоактивный стронций является наиболее вредным, а изотоп йода, о чем те, которые уверяли население, что опыты абсолютно безвредны, сами тогда не знали. Чтобы осознать, как функционирует сложная машина, прошу принять во внимание, что мы двигаемся, ходим, говорим, одним словом – живем, благодаря тому, что в каждом мгновении в биллионах мест нашего тела одновременно ряды кровяных шариков должны бежать «гуськом» с частицами кислорода, что во всех биллионах клеток тела происходят очередные биллионы процессов, и что таких процессов, которые должны удерживаться в необычно узком диапазоне параметров, тьма – иначе тотчас начался бы распад, их рассогласование. Чем система сложнее, тем более тотальная должна быть регуляция, в тем меньшей степени можно позволить параметрам локальные колебания. Господствует ли наш мозг над телом как регулятор? Несомненно, да. Господствует ли каждый из нас над своим телом? Ясно, что только в узком диапазоне параметров – остальное нам «дано» осмотрительной Природой. Но никто не может нам обеспечить, то есть принять за нас решение, управление очень сложной общественной системой. Опасность, о которой говорил Винер, в том, что к ситуациям, в которых мы должны уже требовать «интеллектронной пищи», прогресс приводит нас постепенно, потому что в момент, когда мы начинаем терять комплексный «обзор», а из-за этого – контроль, нельзя будет задержать цивилизацию как часы – она должна идти дальше.

Но будет вероятно идти «сама» так, как до сих пор? Необязательно. Это так сказать негативные аспекты прогресса в гомеостатическом смысле. Амеба намного меньше чувствительна к минутным потерям подачи кислорода к мозгу. Средневековый город требовал только воды и пищи; современный, если прекратится подача электричества, становится адом, каким был Манхэттен пару лет назад, когда остановились лифты в небоскребах и поезда под землей. Потому что гомеостаз имеет два обличия, он является ростом невосприимчивости к «внешним пертурбациям», то есть вызванным «естественными» нарушениями, и одновременно ростом чувствительности к «внутренним пертурбациям», т.е. вызванным нарушениями внутренних связей системы. Поэтому чем больше «искусственность» окружения, тем в большей степени мы обречены на зависимость технологии от ее надежности – и от ненадежности, если она ненадежна. Она ведь может быть ненадежна. Антипертурбационную устойчивость индивидуума можно рассматривать также двояко: как изолированный элемент и как элемент социальной структуры. Вся «антипертурбационная сопротивляемость», которую проявил Робинзон Крузо, была результатом чисто информационного «допрограммирования» его цивилизацией, прежде чем он стал «изолированным элементом» на безлюдном острове. Подобным образом укол, который получает новорожденный, дающий ему определенную сопротивляемость на всю жизнь, вызывает рост его «антипертурбационной сопротивляемости» чисто индивидуальный, как изолированного элемента. Зато везде, где вмешательство будет повторяться, социальные связи должны функционировать безупречно; и значит, если больного с блокадой сердца спасает от смерти имплантированный под кожу электрический аппарат, имитирующий нервные импульсы, он должен регулярно получать энергетические заряды (в конкретном случае – батарейки) для этого аппарата. Итак, с одной стороны, цивилизация спасает человека от смерти, но с другой, дополнительно делает его зависимым от своего четкого функционирования. На Земле человеческий организм регулирует соотношение кальция в костях к кальцию в крови, но в Космосе, когда в безгравитационных условиях кальций вымывается из костей в кровь, уже не Природа, а МЫ должны регулирующе вмешаться. В известных в истории общественных формациях не раз проявлялись неожиданные нарушения гомеостаза, вызванные как пертурбациями внешне-производными (эпидемии, естественные бедствия), так и внутренне-производными, чисто идиографическим каталогом которых являются как раз исторические хроники. Структуры государственного строя имели разную сопротивляемость к таким нарушениям и некоторые из них, выводя систему как целое за территорию стабильности в сферу неотвратимых испытаний, приводили через революцию к сменам одной структуры на другую; однако люди всегда вступали в общественные связи с людьми, руководили ими или были руководимы, эксплуатируемы; таким образом, что бы не происходило, это было результатом человеческих действий. Правда, были они объективно структурированы в определенные надличностные и надколлективные силы; в сменных формах действовали похожие материально-информационные связи; действовали также побочные опоры структурной стабилизации – с семьей, одной из старейших из них, во главе. По мере развития технологии сложность процессов для регулирования нарастает, так что в конце концов для овладения ими становится необходимо использование регуляторов, располагающих большим разнообразием, чем человеческий мозг. Это, по сути дела, проблема метагосударственная, поскольку такую необходимость начинают ощущать страны с разными государственными устройствами, лишь бы только они были на достаточно высокой ступени техноэволюции. Итак, регуляторы «нечеловеческие», т.е. не являющиеся людьми, по всей вероятности смогут справиться с задачами лучше людей и, следовательно, мелиоризирующий эффект технологического развития в этой области будет положителен. Тем не менее, ситуация полностью изменится в психологическом смысле, поскольку одно – это знать, что из отношений, в которые люди должны друг с другом вступать, образуя общество, родятся статистическо-динамические закономерности, которые могут порой быть направлены на интересы индивидуумов, групп, целых классов – и совсем другое знать, что судьба наша ускользает из наших рук, явно передаваемая электронным опекунам. Потому что тогда возникает особое состояние, сингулярным эквивалентом которого была бы ситуация человека, знающего, что всеми жизненными процессами его тела руководит не он, не его мозг, не внутренние закономерности организма, а некий центр вне его, который всем клеткам, энзимам, нервным волокнам, всем молекулам его тела предписывает характернейшее, наиболее оптимальное поведение; и хотя регуляция такая могла бы быть даже (предположим) более совершенная, чем естественно реализованная «соматической мудростью тела», и в перспективе несла бы с собой здоровье, силы, долгожительство, но любой, наверное, согласится с тем, что мы чувствуем ее именно как что-то «противное природе», в понимании «нашей, человеческой природы» – и, наверное, это самое можно сказать о соотношении «общество – его „интеллектронные координаторы“». Чем более будет расти сложность внутреннего строения цивилизации, в тем большей степени надо будет (в тем более многочисленных областях) позволить таким регуляторам бдительный контроль и вмешательство – для удержания гомеостаза, – но субъективно этот процесс сможет показаться проявлением «жадности» этих машин, покоряющих одну за другой области до сих пор чисто человеческого существования. И потому мы имеем перед собой не «электронного бога» и не такого же властелина, а только системы, которые вначале призваны для наблюдения за обособленными процессами, исключительной важности или сложности, постепенно – в ходе своеобразной эволюции – охватывают заботой всю общественную динамику. Эти системы не будут пытаться «овладеть человеком» в каком-либо антропоморфическом значении этого слова, так как не будучи «личностями» не проявляют и черт какого-либо эгоизма или жажды власти, которые можно приписать только «личностям». Другое дело, что люди могли бы эти машины персонифицировать, приписывая им – отсутствующие в них – намерения и познания на правах новой, но уже интеллектронной эпохи, мифологии. Я вовсе не демонизирую эти безличные регуляторы; представляю только поразительную ситуацию, в которой, как в пещере Полифема, добирается до нас Никто – но в этот раз для нашего блага. Принятие окончательных решений может остаться навсегда в руках человека; так что же из того, если попытки использования такой свободы показывают, что иные – если бы такие были – решения машины были более выгодны, ибо они более всесторонни. После нескольких болезненных уроков человечество могло бы превратиться в послушных детей, слушая всегда добрые советы Никого; в этой версии Регулятор немного слабее, чем в варианте «властителя», потому что никогда ничего не требует, только советует – но становится ли нашей силой эта его слабость?