Сообщество разума - Марвин Мински

для того, чтобы ребенок мог заполнить ведерко песком. Именно данный опыт, а не все сведения, почерпнутые из психологии, привел нас ко многим идеям относительно обществ разума.

В первых экспериментах мы сконструировали механическую руку, оснащенную датчиками давления и касания на кончиках пальцев. Затем нам пришлось подключить телевизионную камеру к нашему компьютеру и написать ряд программ, благодаря которым «Глаз» мог различать очертания кубиков. Кроме того, теперь он опознавал и саму «Руку». Когда выяснилось, что имеющегося набора программ недостаточно, мы добавили несколько программ, которые использовали чувствительность пальцев «Руки» для подтверждения визуальных впечатлений. Понадобились также программы, позволявшие компьютеру перемещать «Руку» с места на место и при помощи «Глаза» убеждаться, что на пути перемещения нет никаких препятствий. Еще пришлось составить несколько программ более высокого уровня, чтобы робот мог планировать свои действия, и тех программ, которые отслеживали выполнение намеченных планов. Чтобы все это работало как надо, требовались программы, проверявшие на каждом этапе (опять-таки, при помощи «Глаза» и «Руки») соответствие «замыслов» внутри робота фактическому объему действий – и исправлявшие ошибки, если таковые случались.

В попытках заставить нашего робота трудиться мы обнаружили, что многие повседневные задачи являются гораздо более трудными, в сравнении с теми математическими задачами, головоломками и играми, которые нередко вызывают затруднения у взрослых людей. На каждом шагу в этом мире кубиков, когда обстоятельства вынуждали нас искать подходящие решения, мы обнаруживали целую вселенную неожиданных осложнений. Возьмем, к примеру, простую, казалось бы, задачу – не использовать кубики, уже задействованные при строительстве башни. Взрослый здесь будет руководствоваться здравым смыслом: «Не следует использовать объект для достижения новой цели, если этот объект уже используется для достижения предыдущей цели». Никто не знает точно, как именно человеческий разум приходит к такому выводу. Очевидно, мы учимся на опыте распознавать ситуации, в которых возможно возникновение затруднений, и, когда вырастаем, учимся планировать заранее, дабы избегать подобных конфликтов. Но поскольку нам неизвестно, какой конкретно способ сработает, приходится вдобавок учиться справляться с неопределенностью. Какие стратегии лучше опробовать, какие из них позволят избежать наихудших ошибок? Тысячи, если не миллионы малых процессов вовлечены в реализацию наших способностей предвидеть, воображать, планировать, прогнозировать и предотвращать ошибки; однако все происходит автоматически, из-за чего мы снова и снова рассуждаем о «здравом смысле». Но если мышление настолько сложное, почему оно выглядит настолько простым? Поначалу кажется поистине невероятным, что наш разум в состоянии управлять столь сложной «машинерией» – и оставаться в неведении о ее существовании.

В целом мы почти ничего не знаем о возможностях нашего разума.

Преимущественно лишь когда другие наши системы перестают справляться, мы прибегаем к помощи особых агентов, участвующих в работе того, что принято называть «сознанием». Соответственно мы более осведомлены о простых процессах, которые сбоят, чем о сложных процессах, которые протекают безупречно. Это означает, что мы не можем доверять нашим спонтанным суждениям о том, какие операции тела и мозга являются простыми, а какие требуют сложной «машинерии». В большинстве случаев всякая часть разума только ощущает, что другие части выполняют свою работу.

2.6. Считать ли людей машинами?

Многие люди чувствуют себя уязвленными, когда человеческий разум сравнивают с компьютерными программами или машинами. Мы видели, как простой навык строительства башни из кубиков можно разложить на малые процессы. Но разве что-либо наподобие истинного разума возможно свести к подобным «малостям»?

«Смешно, – скажет большинство людей. – Уж я-то не ощущаю себя машиной!»

Но если вы не машина, откуда вам знать и как судить о том, что значит чувствовать себя машиной? Мне могут ответить: «Я мыслю, следовательно, я знаю, как работает разум». Но это подозрительно похоже на фразу: «Я вожу автомобиль, поэтому я знаю, как работает его двигатель». Знать, как чем-то пользоваться, вовсе не то же самое, что знать, как это что-то работает.

«Но всем известно, что машины могут вести себя только безжизненными, механическими способами».

Это возражение выглядит более обоснованным. В самом деле, человек вправе обижаться на сравнение с любой тривиальной машиной. Однако мне кажется, что само слово «машина» постепенно устаревает. На протяжении многих столетий слово «механический» побуждало воображать различные простые устройства вроде шкивов, рычагов, лебедок и печатных машинок. (Слово «компьютероподобный» унаследовало этот уничижительный оттенок и подразумевает выполнение скучных арифметических действий шаг за шагом.) Но мы должны признать, что находимся сейчас на заре эпохи машин и практически не имеем понятия о том, какой она будет. Допустим, некий гость с Марса прилетел миллиарды лет назад и стал делать выводы об участи населения планеты, наблюдая за скоплениями клеток, которые еще даже не научились ползать. Точно так же мы не в состоянии оценить будущие возможности машин по тому, что происходит с ними в наши дни.

Наши первые «прозрения» относительно компьютеров восходят к опытам с машинами 1940-х годов, которые состояли всего-навсего из тысяч частей. Но человеческий мозг содержит миллиарды клеток, каждая из которых сложна сама по себе и связана со многими тысячами других. Современные компьютеры представляют собой промежуточную ступень сложности; они располагают миллионами частей, и уже создаются машины с миллиардами частей для исследований в области искусственного интеллекта. Но все же, несмотря на неоспоримое развитие отрасли, мы продолжаем употреблять старые слова, как если бы не случилось вообще никаких изменений. Необходимо поменять наше отношение, приспособиться к явлению, масштаб которого превосходит всякий предыдущий опыт. Термина «машина» явно недостаточно.

Впрочем, хватит рассуждений о словах. Давайте оставим эти доводы в сторонке и вместо того попытаемся понять, какие функции выполняют тайные, неведомые механизмы нашего разума. Тогда у нас появится больше поводов гордиться тем, какими великолепными машинами мы являемся.

Глава 3

Конфликт и компромисс

3.1 Конфликт

Большинству детей нравится не только строить, но и ломать. Потому давайте вообразим себе другого агента, которого назовем Крушителем; его «специальность» сводится именно к разрушению. Наш ребенок любит слушать загадочные шумы и наблюдать, как составные предметы разлетаются на части.

Рис. 6

Предположим, Крушитель готов приступить к действиям, но поблизости ломать нечего. Тогда Крушителю понадобится чья-то помощь – например, он заставит трудиться Строителя. Но что, если спустя некоторое время, Крушитель посчитает башню из кубиков достаточно высокой для разрушения, тогда как Строитель будет хотеть сделать ее еще выше? Кто разрешит этот спор?

Простейшим решением будет оставить выбор за Крушителем, который и привлек Строителя к возведению башни. Но более реалистичное представление о сознании ребенка подсказывает, что