Манифест Унабомбера - Теодор Качинский

Будущее[87]

171. Но представим теперь, что индустриальное общество пережило следующие десятилетия, и что дефекты системы в конечном итоге исправлены, так что она функционирует без перебоев. Что это будет за система? Мы рассмотрим несколько вариантов.

172. Во-первых, давайте примем без доказательств, что специалисты по компьютерной технике преуспели в развитии машин с искусственным интеллектом, которые могут делать всё гораздо лучше, чем люди. В этом случае, вероятно, вся работа будет выполняться пространными, высоко организованными системами машин, а в человеческих усилиях просто не будет необходимости. Может произойти одно из двух. Машинам может быть позволено принимать все свои решения без человеческого надзора, или же человеческий контроль над ними будет сохранён.

173. В случае, если машинам будет позволено самим принимать решения, мы не можем сделать никаких предположений в отношении последствий, потому что невозможно догадаться, как такие машины будут себя вести. Мы лишь укажем, что судьба человеческой расы окажется отданной на милость машин. Можно привести доводы, что человеческая раса никогда не будет настолько безрассудной, чтобы отдать им всю власть. Но мы не будем предполагать ни того, что человеческая раса не передаст добровольно власть машинам, ни того, что они своевольно захватят её. Что мы предположим, так это то, что человеческая раса может легко позволить себе втянуться в такую зависимость от машин, что у неё практически не будет никакого выбора, кроме как принимать все их решения. Так как общество и все проблемы, с которым оно сталкивается, становится всё более и более сложным, а машины становятся всё более и более разумными, люди позволят им принимать большинство решений за них, просто потому, что решения, принятые машинами, принесут лучший результат, чем принятые людьми. В конце концов дело может вступить в такую стадию, что решения, необходимые для сохранения работоспособности системы, будут настолько сложными, что люди окажутся просто неспособными благоразумно разрешить их. На этой стадии фактически будут управлять машины. Люди же просто не смогут выключить их, потому что они будут уже настолько зависеть от них, что их отключение будет равносильно самоубийству.

174. С другой стороны, вполне возможно, что контроль людей над машинами сохранится. В этом случае средний человек будет контролировать лишь определённые принадлежащие лично ему машины, вроде автомобиля или персонального компьютера, а крупными системами машин будет управлять крайне малочисленная элита, прямо как сегодня, но с двумя отличиями. В результате усовершенствованной техники элита будет иметь гораздо больший контроль над массами; и так как необходимость в человеческой работе отпадёт, население окажется чрезмерно избыточным, оно станет бесполезной нагрузкой для системы. Если элита будет жестокой, она может решить просто ликвидировать большую часть человечества. Если гуманной, она может использовать пропаганду или другие психологические или биологические методики для снижения уровня рождаемости до тех пор, пока большая часть населения не вымрет, оставив ей весь мир. Или, если элита будет состоять из мягкосердечных либералов, они могут решить играть роль добрых пастырей по отношению к остальной человеческой расе. Они будут заботиться о том, чтобы физические нужды каждого были удовлетворены, чтобы все дети вырастали в условиях психологической гигиены, чтобы у каждого было какое-нибудь полезное хобби — с целью держать его занятым, и чтобы любой, кто окажется чем-то неудовлетворённым, подвергался «лечению» — с целью исцеления его «проблемы». Естественно, жизнь будет настолько бессмысленной, что людей придётся психологически или биологически переконструировать: либо для того, чтобы устранить у них потребность в процессе власти, либо для того, чтобы принудить их «сублимировать» её в какое-нибудь безобидное хобби. Переконструированные человеческие существа могут быть счастливы в таком обществе, но, несомненно, они не будут свободны. Они будут понижены до статуса домашних животных.

175. Но представим теперь, что специалисты по компьютерной технике не преуспели в развитии искусственного интеллекта, и человеческий труд по-прежнему необходим. Даже при таких условиях машины будут всё больше и больше брать на себя выполнение простых задач, так что избыток рабочих низкой квалификации будет постоянно расти. (Мы считаем, что это уже происходит. Существует множество людей, которым трудно или невозможно найти работу, потому что по умственным или психическим причинам они не могут получить уровень образования, необходимый для того, чтобы стать полезными для существующей системы.) На тех, кто удержится на работе, будут возлагаться постоянно растущие требования: им будет необходимо всё большее и большее образование, всё большая и большая квалификация, от них будет требоваться всё большая верность, подчинение и покорность, потому что они будут всё больше и больше уподобляться клеткам гигантского организма. Их задачи будут становиться всё более и более специализированными, так что их работа в известном смысле потеряет связь с реальным миром, она будет сосредоточена лишь на его крошечном сегменте. Система будет принуждена использовать любые средства, которые только сможет, будь то психологические или биологические, чтобы люди стали покорными, чтобы они обладали требующимися системе способностями, чтобы они «сублимировали» свою потребность во власти на какую-то специализированную задачу. Однако, утверждение, что люди такого общества будут принуждаться к покорности, требует уточнения. Общество может признать полезной конкурентоспособность, при условии, что будут найдены методы, направляющие её по служащим потребностям системы руслам. Мы можем представить будущее общество, в котором будет царствовать нескончаемое соперничество за престиж и положение во власти. Но не более чем горстка людей будет всегда добираться до самого верха, на котором единственно и сосредоточена реальная власть (см. конец параграфа 163). Крайне отталкивающим выглядит общество, в котором личность сможет удовлетворить свою потребность власти, лишь сбрасывая остальных с дороги и отнимая у них ИХ возможности добиться власти.

176. Также можно рассмотреть сценарии, состоящие из некоторых аспектов других, только что обсуждённых нами. Например, может сложиться так, что машины возьмут на себя большую часть работы практического назначения, а занятость людей будет сохраняться возложением на них сравнительно незначительной работы. Предполагается, например, что обеспечить их работой сможет существенное развитие индустрии обслуживания. Таким образом, людям придётся коротать своё время, начищая друг другу обувь, катая друг друга на такси, ремесленничая друг для друга, накрывая друг другу столы и т. д. Такое завершение существования человеческой расы представляется нам совершенно отвратительным, и мы сомневаемся, что многие люди сочтут нормальным жить такой бессмысленной работой. Они начнут искать другие отдушины, несомненно, опасные (наркотики, преступность, «культы», разжигающие ненависть группировки), если не будут биологически или психологически реконструированы для приспособления к такому образу жизни.

177. Не стоит и говорить о том, что обрисованные выше сценарии не исчерпывают всех возможностей. Они лишь показывают характеры исходов, которые кажутся нам наиболее вероятными. Но мы можем предложить и неправдоподобные сценарии, не намного приятнее тех, которые мы только что нарисовали. Очень вероятно, что если индустриально-технологическая система перенесёт последующие 40-100 лет, к тому времени она разовьёт определённые общие характеристики: индивидуальности (по меньшей мере те из «буржуа», которые интегрированы в систему и заставляют её двигаться, и которые, следовательно, обладают всей полнотой власти) будут больше, чем раньше, зависеть от крупных организаций; они будут гораздо больше, чем раньше, «социализированы», а их физические и умственные способности в значительной степени (возможно, просто в огромной) станут такими, что скорее уже будут реконструированными, нежели изначально предоставленными случайностью (или Божьей волей, или чем-то там ещё); то же, что останется от дикой природы, будет низведено до жалких остатков, предназначенных для научных исследований и сдерживаемых наблюдением и контролем учёных (поэтому они не будут подлинно дикими). Вполне возможно, что со временем (скажем, через несколько веков) ни человеческая раса, ни какие-то другие важные организмы не будут существовать такими, какими мы их знаем сегодня, потому что как только вы начинаете модифицировать их посредством генной инженерии, уже нет никакого смысла останавливаться на каком-то определённом этапе, так что изменения скорее всего будут продолжаться до тех пор, пока человек и другие организмы не окажутся совершенно переделанными.