Сообщество разума - Марвин Мински

незначительным нарушениям в выполнении многих различных функций.

Аккумуляция. Я уверен, что все вышеописанные методы используются нашим мозгом. Но у нас также есть дополнительный источник надежности, который обеспечивает еще одно преимущество. Рассмотрим любую схему обучения, которая начинается с использования метода аккумуляции, когда каждый агент накапливает «семейство» субагентов, способных реализовывать цели этого агента несколькими способами. Позже, если какой-либо из этих субагентов выйдет из строя, их «руководитель» все равно сможет выполнять свою работу, поскольку другие субагенты продолжат делать то, что они делали раньше, пусть и немного иначе. Таким образом, накопление – простейшая разновидность обучения – обеспечивает запас прочности и универсализацию. Наши системы обучения могут создавать «центры разнообразия», где каждый агент располагает рядом альтернатив. Когда такой центр повреждается, последствия повреждения вряд ли начнут проявляться до тех пор, пока резервы системы не будут исчерпаны.

Глава 19

Слова и идеи

Еще не настолько я заплутал в лексикографии, чтобы забыть, что слова суть отпрыски земли, а вот предметы – отпрыски небес. Язык есть лишь инструмент познания, слова же являются всего-навсего признаками идей; но мне хочется, чтобы этот инструмент был менее подвержен тлену, а упомянутые признаки оставались неизменными, подобно предметам, которые обозначают.

Сэмюел Джонсон

19.1. Истоки намерений

Дух дышит, где хочет, и голос его слышишь, а не знаешь, откуда приходит и куда уходит: так бывает со всяким, рожденным от Духа[27].

Святой Иоанн

Язык конструирует содержание наших умов. Но слова сами по себе не могут быть «сутью» наших мыслей. Они не обладают неким «врожденным» значением; это лишь особые «метки» или звуки. Если мы хотим понять, как функционирует язык, нужно отказаться от обычного представления, согласно которому слова «обозначают», «представляют» или «выражают»; на самом деле их функцией является управление: каждое слово заставляет различных агентов изменять то, что делают другие агенты. Если мы хотим понять, как работает язык, нельзя забывать о том, что наше мышление в словах отражает малую часть мозговой активности.

Нам часто кажется, что мы думаем словами. Но это происходит без осознанного, если угодно, понимания того, где именно и почему возникают эти слова, как они далее влияют на наши последующие мысли и действия. Наши внутренние монологи и диалоги протекают без каких-либо усилий, без преднамеренности, без понимания того, откуда они берутся. Можно было бы возразить, конечно, что нам известно, как слова проникают в разум – дескать, таким образом, с их помощью, мы «выражаем» свои намерения и идеи. Но мы опять возвращаемся к тому же самому вопросу, поскольку и намерения приходят и уходят будто по собственной воле, без нашего участия. Допустим, например, что в какой-то миг мы поняли, что хотим покинуть комнату. В этой ситуации естественно было бы искать дверь. Тут встают сразу две загадки.

Откуда взялось желание покинуть комнату? Мы просто утомились от пребывания в ней? Или вспомнили о чем-то, что требуется сделать? Каковы бы ни были причины, следует задаться вопросом – а что стоит за ними? Чем глубже мы способны проследить свои мысли, тем более «смутными» становятся цепочки причин.

Другая загадка состоит в том, что мы равным образом не ведаем, как именно отреагируем на наши собственные намерения. При наличии желания покинуть комнату что побуждает нас думать о «двери»? Мы сознаем лишь, что подумали: «Пора идти», а затем приходит мысль: «Где дверь?»

Мы настолько к этому привыкли, что воспринимаем подобные ситуации как вполне естественные. Но едва ли у нас есть понимание того, почему каждая последующая мысль «тянется» за предыдущей. Что связывает идею ухода с идеей двери? Имеется ли тут некое прямое соответствие двух парциальных ментальных состояний (состояния ухода и состояния поиска двери)? Или же присутствует некая опосредованная связь, не между этими состояниями, а между отдельными сигналами, которые каким-то образом репрезентируют эти состояния? Или перед нами результат деятельности еще более сложных механизмов?

Наши способности к интроспекции слишком слабы, чтобы мы могли отвечать на такие вопросы. Слова, которыми мы думаем, словно витают в некоем нематериальном интерфейсе, где мы не в силах постичь ни истоков символов, как будто выражающих наши желания, ни способов, какими они приводят к действиям и достижениям. Вот почему слова и образы кажутся нам волшебными: они действуют, хотя мы не понимаем, как это получается и почему. В один момент времени слово может показаться чрезвычайно значимым; в следующий момент оно как бы превращается просто в последовательность звуков. Именно так и должно быть. Как раз «подспудная пустота» слов наделяет их таким разнообразием. Чем менее заполнен сундук с сокровищами, тем больше можно туда сложить.

19.2. Агент языка

Использование языка не сводится к его функции посредника, благодаря которому мы обмениваемся идеями друг с другом… Слова суть инструменты, с помощью которых мы формируем все наши абстракции, создаем и придаем форму нашим идеям, обретаем возможность плавно перемещаться по рядам предпосылок и выводов, причем со скоростью, не оставляющей в памяти никаких следов этих последовательных шагов; мы попросту не осознаем, скольким обязаны языку.

Джон Л. Роже

Обычно мы не ведаем, как именно наш мозг позволяет нам видеть, ходить – или что-то запоминать. Точно так же мы не задумываемся о том, почему говорим и как понимаем слова, которые слышим. С точки зрения обыденного сознания едва мы слышим некую фразу, все ее значения моментально постигаются; однако мы не в силах объяснить, почему слова этой фразы (и любой другой) порождают подобный эффект. Все дети учатся говорить и понимать, но мало кто из взрослых способен внятно растолковать правила грамматики. Например, все знают, что сказать «большая пегая собака» правильно, а вот говорить «пегая большая собака» – уже не совсем правильно. Как узнать, какие фразы допустимы? Ни один филолог не откроет нам, приходится ли разуму учиться языку единожды или дважды – сначала понимать, что говорить, а затем понимать, что слышишь? Применяем ли мы одни и те же механизмы в обоих случаях? Наше сознание не знает ответа, ибо функционирование языка не осознается.

При этом язык, как кажется, играет немаловажную роль в деятельности нашего сознания. На мой взгляд, это связано с тем, что нашему языковому агенту отводится особая роль в мышлении: он в значительной степени контролирует системы памяти других агентов и, следовательно, обладает доступом к «залежам» накопленных ими знаний. Но язык является лишь частью мысли. Мы и вправду