Сообщество разума - Марвин Мински

как наших языковых агентов контролирует говорящий.

Всякому человеку требуется немало лет, чтобы научиться правильно использовать эти системы памяти. Младшие дети, конечно, не в состоянии отслеживать логику процессов так же хорошо, как это делают взрослые. Как правило, почти бесполезно просить парочку двухлетних детей поиграть вместе или повозиться с какой-то игрушкой по очереди. Мы думаем, что малыши для этого слишком эгоцентричны и нетерпеливы. Разумеется, бо́льшая часть их «недисциплинированной импульсивности» проистекает из желаний, которые менее регламентированы, чем наши собственные. Но это нетерпение также может возникнуть вследствие уязвимости памяти: ребенок может опасаться, что нечто желанное забудется, пока им будут руководить другие мысли. Иными словами, ребенок, которого просят «играть по очереди», может испугаться того, что, когда очередь подойдет, ему уже не захочется играть.

Когда спрашивают: «Может ли машина обладать сознанием?» – меня часто подмывает спросить в ответ: «А обладает ли сознанием человек?» Это вовсе не сарказм, я искренне считаю, что люди лишены инструментария, необходимого для понимания себя. Задолго до того, как мы стали интересоваться осмыслением собственных действий, эволюция успела внести ограничения в «архитектуру» нашего мозга. Впрочем, мы можем проектировать новые «мыслительные» машины и наделять их эффективными способами хранения и изучения «слепков» собственной деятельности, а это значит, что машины потенциально способны сделаться куда более «сознательными», нежели мы сами. Да, просто снабжать машины подобной информацией мало, это не позволит им автоматически использовать данную информацию для ускорения собственного развития; до тех пор, пока не сконструированы более «разумные» машины, такие знания лишь помогут им выявить больше способов потерпеть неудачу и предаться саморазрушению. Они должны научиться самообучаться. К счастью, мы можем оставить эту проблему на усмотрение инженеров будущего, которые, несомненно, не станут создавать такие машины без достаточных к тому причин.

15.11. Принцип рекурсии

Рассмотрим в завершение еще раз, как разум переставляет несуществующую мебель в воображаемой комнате. Чтобы сравнивать между собой различные варианты, нам нужно каким-то образом поддерживать в активном состоянии минимум два разных описания одновременно. Могут ли они поддерживаться разными активными агентами? Это означало бы, что нашему агенту по распределению пространства пришлось разделиться на двух малых субагентов, каждый из которых взаимодействовал бы с конкретным описанием. На первый взгляд в таком разделении нет ничего дурного. Однако, если эти малые субагенты окажутся вовлечены в выполнение аналогичных заданий, им в свою очередь тоже придется разделиться. Тогда мы будем вынуждены решать каждую задачу, отводя на нее лишь четверть ума. Если и дальше разделять агентов на все более мелкие элементы, каждая задача в конечном счете выпадет из разума!

Это может показаться утрированной ситуацией, но подобное явление на самом деле весьма широко распространено. Лучший способ решить трудную задачу состоит в том, чтобы разделить ее на несколько более простых, а затем и эти простые разделить на еще более простые. Тут-то мы и сталкиваемся с той же проблемой ментальной фрагментации. К счастью, есть и другой путь. Мы можем обдумывать различные части задачи последовательно, используя одного и того же агента снова и снова. Конечно, такой метод отнимает больше времени. Зато он обладает фундаментальным преимуществом: каждый агент способен действовать в полную силу при решении каждой подзадачи!

Принцип рекурсии: При разделении задачи на фрагменты, если невозможно целиком сосредоточиться на конкретной подзадаче, внимание рассеивается и разум использует свои способности далеко не полностью.

На самом деле наш ум обычно не разлетается, так сказать, вдребезги от беспомощности при разделении трудной задачи на фрагменты. Мы вполне можем вообразить, как именно сложить драгоценности в шкатулку, и одновременно прикинуть, поместится ли та в чемодан. Отсюда следует, что мы способны использовать свои ресурсы осмысления пространства для каждой задачи по очереди. Но как мы возвращаемся к первой задаче после выполнения других, не испытывая необходимости начинать все заново? Для здравого смысла ответ кажется очевидным: мы просто «помним, где были». Но это означает, что мы должны каким-то образом сохранять, а затем воссоздавать состояния прерванных процессов. То есть нам требуется некий «подспудный» механизм отслеживания всех неполных действий, дабы мы помнили, что конкретно было сделано, могли сравнивать разные результаты и оценивать прогресс, а также решать, что делать дальше. Причем все это должно осуществляться в согласии с более крупными, порой меняющимися планами.

Потребность помнить наши недавние состояния объясняет, почему наши «кратковременные воспоминания» столь кратковременны! Чтобы решать трудные задачи быстро и эффективно, каждый микроблок памяти должен представлять собой полноценную систему со множеством специализированных связей и отношений. Если так, наш ум просто не может позволить себе чрезмерного обилия дублирующих копий этой системы, а потому мы должны заново использовать ее ресурсы для разных заданий. Всякий раз, когда мы повторно используем микроблок памяти, информация, которая в нем хранилась, подлежит удалению или перемещению в иное, менее востребованное хранилище. Но на это нужно некоторое время, а сама операция чревата прерыванием потока мыслей. Значит, наши кратковременные воспоминания должны проявляться и «очищаться» мгновенно, и сознание их попросту не замечает.

Глава 16

Эмоции

Каждая эмоция обладает собственным взглядом на мир.

Любовь принимает, сочетает и питает.

Радость есть свет и танцы, пускай одними глазами.

Тоска тяжела, безнадежна, легкие пусты, как и сердце,

а Ненависть жаждет уничтожать, убивать,

как заложено в ее природе,

и почти непроизвольно, деловито,

некая часть меня говорит:

«es is t das hier ja nicht unbekannt»[23].

Манфред Клайнс

16.1 Эмоция

Почему столько людей уверены, что эмоции объяснить труднее, чем интеллект? Часто можно услышать следующее:

В принципе я понимаю, что компьютер способен решать задачи посредством их осмысления. Но я не могу себе представить, что компьютер способен обладать эмоциями или их воспринимать. Кажется, подобное умение несовместимо с возможностями машин.

Мы часто признаем гнев нерациональным. Но в нашем сценарии с профессором Челленджером способ, каким Работник активировал гнев, чтобы побороть сонливость, выглядел не менее рациональным, чем использование палки, чтобы дотянуться до чего-то, чего не достать рукой. Гнев в данном случае – лишь инструмент, который Работник может применить для решения конкретной задачи. Единственная трудность заключается в том, что Работник не может вызвать гнев напрямую; однако он обнаруживает способ сделать это косвенно, вообразив «происки» профессора Челленджера. Не имеет значения, что именно вызывает состояния разума, которые принято называть эмоциональными. Для Работника это всего-навсего один из способов выполнить свое задание. В повседневном мышлении мы постоянно прибегаем к фантазиям.