Сообщество разума - Марвин Мински

тех, от которых больше шерсти. Действительно, репродуктивные механизмы наших клеток развились настолько, что они выдают варианты, у которых шансы оказаться полезными выше, нежели шансы потерпеть неудачу, если полагаться на случай; см. по этому поводу замечательную статью Дугласа Лената «Роль эвристики в обучении открытиям» (сборник «Машинное обучение с точки зрения искусственного интеллекта» под редакцией Р. З. Михальски, Дж. Карбонелла и Т. М. Митчелла, 1983). Не исключено, к слову, что наши генетические системы могут содержать в себе некоторые формы разностных машин, и деятельность этих машин на протяжении чрезвычайно длительных периодов времени приводит к изменениям, которые можно признать отчасти целенаправленными. Разумеется, это просто размышление, подобную систему пока обнаружить не удалось.

В любом случае одним из следствий конфликта с телеологами явилось следующее: многие ученые в других отраслях науки настолько испугались возможности совершить аналогичную ошибку, что сама концепция цели сделалась фактически запретной для науки. Даже сегодня большинство ученых считают неподобающим рассуждать об «антропоморфизме» или «преднамеренности» применительно к кому-либо, кроме людей и высших животных. В итоге психология очутилась в двусмысленном положении. С одной стороны, психологи стали воспринимать многие наиболее важные проблемы своей дисциплины как лежащие вне пределов научного объяснения. С другой стороны, они лишили себя приобщения ко множеству полезных технических идей, ведь слова наподобие «хотеть», «ожидать» и «узнавать» относятся к числу наиболее эффективных способов описания явлений и событий, происходящих в человеческом разуме. Только после «кибернетической революции» 1940-х годов ученые наконец осознали, что нет ничего изначально ненаучного в самой концепции цели, что приписывание целеполагания эволюции порочно не потому, что это невозможно, а потому, что это неправильно. Человеческий ум действительно использует представление о целях, и нет ничего плохого в признании этого факта и во внедрении «технических» теорий о намерениях и целях в психологию.

7. Изоляция и взаимодействие

Сложнее всего понять, почему мы вообще понимаем хоть что-то.

Альберт Эйнштейн

Есть ли надежда, что человеческий разум однажды постигнет, как устроен человеческий же мозг? Никто не в состоянии запомнить устройство последнего до мельчайших подробностей. Нам остается лишь попытаться сформулировать принципы работы мозга. В любом случае мало толка знать, как работает каждая часть по отдельности и как она взаимодействует с остальными, поскольку это не имеет практической ценности. Даже знай мы все упомянутые подробности, то, попроси кто-нибудь нас описать функционирование мозга в общих чертах и принципы изменения его элементов, мы не смогли бы ответить сколько-нибудь внятно.

Обычно нам нравится позитивно оценивать взаимодействие элементов различных систем. Но прежде следует получить достаточно полное представление о том, какие элементы не взаимодействуют, иначе поле для предположений окажется слишком просторным. Иными словами, мы должны изучить изоляцию до того, как приступать к изучению взаимодействия. Попробую сформулировать строже: никакое сложное общество не будет функционировать эффективно, если его функционирование зависит от взаимодействия большинства элементов. Это объясняется тем, что любую подобную систему выведут из строя малейшие внутренние искажения, повреждения или внешнее влияние – не говоря уже о том, что такое общество попросту не сможет развиваться.

Биология сформировалась как наука благодаря изучению изоляции. Мы не понимали «сути» растений и животных, пока не выяснилось, что те и другие состоят из отдельных клеток. Далее изучение застопорилось, ибо ученые воображали клетки как своего рода «бурдюки» с жидкостью, внутри которых происходит произвольное взаимодействие бесчисленных химических веществ. Сегодня мы знаем, что клетки больше похожи на фабрики со станками, что спрятаны за крепкими стенами, а двери открываются только для тех веществ, которые имеют нужные ключи. Кроме того, даже в этих отдельных блоках большинство пар химических веществ могут взаимодействовать только с разрешения конкретных генов. Без изоляции столько химических веществ мгновенно вступит во взаимодействие, что все наши клетки погибнут.

Для целей настоящей книги я уделял пристальное внимание высокоизолированным системам, то есть механизмам, в которых различные функции выполняются разными агентами. Однако нам важно задать перспективу. Например, в главе 19 было проведено достаточно строгое различие между «запоминателями» и «узнавателями»; так оказалось проще объяснить данные концепции. Однако в разделе 20.9 мы бегло упомянули об идее «распределенной памяти», в которой обе эти функции реализуются одной и той же сетью агентов. Мне очень не хочется, чтобы читатель принял мимолетность этого упоминания за признак «ничтожности» данной темы. Напротив, на мой взгляд, большая часть человеческого разума состоит из распределенных систем обучения, и для нас чрезвычайно важно понимать, как они работают. Разум способен комбинировать множество функций; например, Джон Хопфилд описал единую распределенную сеть, которая не только объединяет память и узнавание, но также «корректно выводит весь объем памяти из любого ее фрагмента достаточного размера»; перед нами агент, «замыкающий кольцо», как описывалось в разделе 19.10. См. статью Хопфилда в «Трудах Национальной академии наук» (79, 1982) или в сборнике «Параллельная распределенная обработка» под редакцией Д. Д. Румельхарта и Дж. Л. Маклелланда (1986).

Преимущества распределенных систем не являются альтернативой преимуществам изолированных систем; эти две категории дополняют друг друга. Сказать, что разум состоит из распределенных систем – вовсе не то же самое, что утверждать, будто он является распределенной системой, то есть единой сетью, в которой все функции распределены равномерно. Не думаю, что какой-либо подобный разум мог функционировать эффективно, поскольку внутренние взаимодействия оказались бы неконтролируемыми. Разумеется, придется объяснить, как различные идеи могут быть связаны друг с другом, но еще следует объяснить, каким образом сохраняется цельность наших отдельных воспоминаний. Например, мы высоко оценили силу метафор, которые позволяют объединять идеи из разных сфер мышления, но вся эта сила будет утрачена, если метафоры начнут, так сказать, смешиваться! Архитектура обществ разума должна поощрять формирование и сохранение четко разделенных уровней управления, предотвращать возникновение связей между агентами, сообщения которых не имеют взаимной ценности. Некоторые теоретики предполагали, что распределенные системы по самой своей «природе» надежны и универсальны, однако на практике эти атрибуты способны конфликтовать. Системы с избытком взаимодействия разных типов подвержены разрушению, а системы с избытком взаимодействий аналогичного типа окажутся слишком громоздкими, чтобы оперативно адаптироваться к новым ситуациям и требованиям. Наконец распределенные системы, как правило, не обладают явными, четко сформулированными репрезентациями, и это затрудняет для любого такого агента понимание того, как работают другие подобные агенты. Следовательно, если распределенные системы памяти действительно широко используются нашим разумом, это может быть еще одной причиной для «поверхностности» нашего сознания.

8. Эволюция человеческого мышления

Каковы истоки человеческой мысли? Сегодня мы почти уверены, что наши ближайшие родичи среди живых существ представлены на схеме ниже. Данная схема показывает, что ни один из существующих видов не произошел непосредственно от какого-либо