Сообщество разума - Марвин Мински

нам приходится все упрощать до выражений наподобие «Да» и «Нет». Но эти выражения недостаточно информативны для того, чтобы использоваться на низких уровнях разума, где осуществляется множество процессов и где каждый агент вынужден решать, насколько что-то соответствует конкретным локальным целям. На более низких уровнях разума должны иметься в изобилии некие малые (и сосуществующие) удовольствия и раздражители.

Мы часто рассуждаем так, словно нам следует подчиняться собственным желаниям. На самом же деле мы едва различаем само желание и потенциальное удовольствие от его исполнения; отношение между этими двумя понятиями кажется настолько тесным, что даже как-то странно упоминать о нем. Вполне естественным кажется хотеть того, что нам нравится, и избегать того, что нам не нравится, и порой мы испытываем чуть ли не потусторонний ужас, когда другие люди нарушают это правило; мы думаем, что они, конечно же, не стали бы делать ничего подобного, если бы, в глубине души, не желали этого на самом деле. Мы будто чувствуем, что все люди должны делать только то, что им нравится.

Но взаимоотношения между «хотеть» и «нравиться» куда сложнее, поскольку наши предпочтения суть конечные результаты длительных переговоров между нашими агентами. Чтобы достичь какой-либо существенной цели, мы должны отказаться от других возможностей и задействовать механизмы, позволяющие не поддаваться унынию или раскаянию. Мы употребляем слова вроде «нравится», чтобы охарактеризовать результат работы механизмов, которые заставляют нас придерживаться сделанного выбора. Деятельность агента «Нравиться» заключается в устранении альтернатив; мы должны понимать эту его роль и сознавать, что он, не имея ограничений, изрядно сужает нашу вселенную. В итоге формируется мнимая ясность и строгость понятия «нравится», которое не отражает своей сути, а лишь показывает образ действий.

9.2. Манипуляции

Всем известно, что достижения приносят удовлетворение, а потому мы склонны устанавливать прямую связь между тем и другим. У простейших животных «удовлетворение» означает всего-навсего удовлетворение элементарных, базовых потребностей, и связь между удовольствием и достижениями действительно должна быть практически неразрывной. Но в сложном человеческом разуме имеется обилие слоев агентов, занимающих промежуточное положение между теми, что отвечают за потребности тела, и теми, которые выражают (или опознают) наши интеллектуальные достижения. Тогда каково будет в этих усложненных системах значение приятных чувств успешного свершения и неприятных ощущений поражения? Очевидно, они должны как-то соотноситься с нашими высокоуровневыми агентами и их обобщениями.

Предположим, однажды нам пришлось отправлять подарок другу. Потребовалось выбрать подарок и найти для него упаковку. Очень быстро эти задачи разделились на несколько более мелких, наподобие поиска шпагата и перевязывания упаковки. Единственный способ решения трудных задач состоит в разделении их на фрагменты, а затем, если выяснится, что фрагменты тоже доставляют сложности, в дальнейшем дроблении малых заданий. То есть трудные задачи всегда подразумевают построение ветвящихся «деревьев» с подцелями и подзадачами. Чтобы решить, какие ресурсы необходимо использовать, нашим агентам решения задач нужны простые описания текущего положения дел. Допустим, «резюме» каждого агента основано на других сводках, которые он получает от подчиненных агентов. Ниже приводится патологический пример того, что может произойти, если каждое «резюме» будет основываться на решениях большинства.

Рис. 25

Когда произошло все вышеперечисленное, в ответ на вопрос, понравилось ли нам то-то и то-то, мы могли бы ответить: «Было здорово» или «Было ужасно». Но никакое подобное резюме не будет содержать полезных сведений об опыте, полученном нашими агентами. Процессы завязывания узелков выяснили, какие действия были эффективными, а какие провалились; процессы заворачивания в бумагу и выбора подарка зафиксировали иные неудачи и достижения; но общая оценка опыта не передает всей полноты этого познания. Если весь эпизод заставил нас «погрустнеть», впредь мы будем стараться не делать подарков, но это не должно оказать заметного влияния на усвоенные навыки складывания бумаги и завязывания шпагата узлами. Ощущение «хорошего» или «плохого» само по себе не отражает сути происходящего внутри всех наших агентов; слишком значительный объем информации для нас недоступен. Тогда почему мы столь охотно норовим разделять наши чувства на положительные и отрицательные и делаем выводы, будто «в целом» результат можно признать скверным или позитивным? Да, иногда чувства смешиваются и возникает ощущение «горькой сладости», но, как мы увидим далее, имеется множество причин, побуждающих нас к упрощениям.

9.3. Учиться на неудачах

До сих пор мы говорили в основном об обучении на успехах. Но подумайте вот о чем: при достижении успеха мы уже обладаем всеми необходимыми средствами для его достижения. Если так, любые изменения разума будут лишь ухудшать ситуацию! Недаром часто можно услышать: «Не стоит оспаривать успех». Всякий раз, когда пытаемся «улучшить» эффективный процесс, мы рискуем повредить прочие навыки и умения, зависящие от того же механизма.

Соответственно гораздо полезнее, может быть, выяснить, как мы терпим неудачи. Что нам делать, если какой-либо устоявшийся метод – назовем его «М» – более не обеспечивает достижение поставленной цели? Одна из стратегий заключается в том, чтобы изменить M, дабы он не приводил к тем же самым ошибкам. Но даже подобное действие может быть опасным, поскольку оно способно привести к провалам метода M в других ситуациях. Кроме того, мы не обладаем знанием о том, как изменить M, чтобы устранить ошибку. Более надежный способ состоит в изменении метода M посредством дополнения его особыми запоминающими устройствами, так называемыми цензорами и супрессорами («подавителями»; подробнее о них мы поговорим позже), которые запоминают конкретные обстоятельства, когда метод M терпит неудачу, и впоследствии отвергают применение M, когда подобные условия воспроизводятся вновь. Эти «цензоры» не указывают, что нам делать, они лишь отмечают, чего делать не следует; вдобавок они мешают нам тратить время впустую на повторение былых ошибок.

У обучения есть по меньшей мере две составляющие. Некоторые части нашего разума учатся на успехах, запоминают случаи, когда какие-то методы оказались действенными. Другие части разума учатся преимущественно на допускаемых ошибках, запоминают условия, при которых те или иные методы оказались непригодными. Позже мы увидим, как возможно научиться не только не делать чего-то, но и не думать о чем-то. Когда подобное происходит, в нашем разуме формируются различные запреты и табу, о которых мы вовсе не подозреваем. Следовательно, обучение на успехах фокусируется на образе мышления, а обучение на неудачах тоже способствует повышению продуктивности мышления, но, скажем так, опосредованно.

Нам не пришлось бы иметь дело с исключениями и цензорами, обитай мы во вселенной простых и общеприменимых правил, не ведающих исключений, – например, в прекрасных математических мирах арифметики, геометрии и логики. Но совершенная логика редко срабатывает в реальном мире