Сообщество разума - Марвин Мински

делать то и это по собственному желанию, однако разум часто бежит знания, которое мыслится достоверным, и неохотно преследует зло. Но все же ничто на свете не происходит в точности так, как мы того желаем. Причиной тому разум, затуманенный нечистыми помыслами и невосприимчивый к мудрости, упорствующий в стремлении мыслить о «себе» и «своем».

Будда

Как мы обращаемся с мыслями, которые приводят к пугающим результатам? Что следует думать о «почти» парадоксах, которые угрожающе намекают, что все предметы, большие и малые, могут быть одного размера? Одна из стратегий заключается в том, чтобы избегать подобных рассуждений, учиться никогда не объединять более двух или трех «близостей». Тогда, возможно, удалось бы обобщить эту стратегию, желая, избавить себя от опасности комбинирования слишком многих умозаключений.

Но что может означать фраза «слишком многих»? На это нет единого ответа. Как и в случае с сообществом «Больше», нужно изучить отдельные проявления во всех важных сферах мышления, выяснить, каковы ограничения каждого типа и стиля рассуждений. Человеческое мышление основано не на универсальной, единообразной «логике», а на бесчисленных процессах, сценариях, стереотипах, критике и цензуре, аналогиях и метафорах. Некоторые из них приобретаются благодаря эволюции и генам, другие мы изучаем благодаря среде, а третьи создаем для себя сами. Но даже в разуме никто не учится в одиночку, поскольку каждый шаг подразумевает обращение к знаниям, усвоенным ранее через язык, через семью и друзей, а также через наши прежние «я». Без того, чтобы один этап развития «наставлял» следующий, такая структура, как разум, не могла бы возникнуть.

Существует еще одно сходство интеллектуального и эмоционального развития: мы можем создавать интеллектуальные привязанности и стремимся думать так, как думают некоторые другие люди. Этими «интеллектуальными идеалами» могут быть родители, учителя и друзья, а также те, кого мы никогда не встречали, – например, писатели и даже вымышленные, легендарные герои. Полагаю, от образов того, как надо думать, мы зависим ничуть не меньше, чем от образов того, как надо чувствовать. Отчасти наши самые насущные воспоминания относятся к учителям, но не к тому, чему они учили. (В момент, когда моя рука выводит эти строки, мне кажется, что мой герой Уоррен Маккаллох смотрит на меня неодобрительно: ему не нравятся эти неофрейдистские идеи.) Любая затея может казаться эмоционально нейтральной, но не существует такого явления, как «чисто рациональное» действие. Всегда ситуация рассматривается и воспринимается через личный фокус. Даже ученым приходится делать такое допущение:

Уже достаточно доказательств или нужно подобрать больше?

Пора ли составлять унифрейм или надо накопить больше примеров?

Можно ли полагаться на старые теории или надо поверить в свежую гипотезу?

Должен ли я быть редукционистом или новатором?

На каждом шагу выбор, который мы делаем, зависит от того, кем мы стали. Наши науки, искусства и этика не возникают из безличных идеалов истины, красоты и добродетели; они частично суть отражение наших стремлений потакать образам, созданным в предыдущие годы (или опровергать их). То есть наши взрослые повадки проистекают из побуждений, настолько инфантильных, что мы бы, конечно, их осудили – не будь они трансформированы, замаскированы или, как сказал бы Фрейд, «сублимированы».

Глава 18

Размышление

Машины – с их неопровержимой логикой, их строгой точностью цифр, их совершенно точными наблюдениями, их абсолютным знанием математики – могли бы развить любую идею, сколь угодно простую изначально, и сделать какой-то вывод. Машины обладают идеальным воображением, то есть способностью создавать необходимое будущее из факта настоящего. Зато человек обладает воображением иного рода, нелогичным, блестящим мышлением, которое смутно провидит будущий результат, не ведая, почему все должно быть так, воображением, которое превосходит машинное в точности. Человек способен прийти к выводу быстрее, но машина всегда достигает результата постепенно – и ее вывод всегда верен. Человек движется мелкими и быстрыми шажками, машина же идет ровно и неотвратимо.

Джон В. Кэмпбелл

18.1. Должны ли машины быть логичными?

Что не так с прежними доводами, которые побуждали нас верить, будто машины, если они вообще научатся думать, будут мыслить с совершенной логикой? Нам говорили, что по своей природе машины обязаны действовать в соответствии с правилами. Нам также говорили, что машины могут делать только то, что им велят. Кроме того, мы слышали, что машины могут лишь обрабатывать числа и потому не способны работать с качествами или их аналогами.

Большинство таких доводов проистекает из ошибки, похожей на ту, когда мы путаем агента и оператора. Когда мы проектируем и строим машину, нам многое известно о том, как она будет работать. Если наш проект основан на строгих логических принципах, мы, вполне вероятно, допустим ошибку, ожидая, что машина будет вести себя столь же строго и логично. Но здесь мы путаем происходящее внутри машины – ее «работу» – с нашими ожиданиями того, каково будет впечатление от ее работы во внешнем мире. Быть в состоянии объяснить логически, как работают детали машины, вовсе не означает возможности объяснить последующие действия устройства в простых, логичных терминах. Эдгар Аллан По однажды заметил, что некая шахматная «машина» должна быть обманом, поскольку она выигрывала не всегда. Будь этот прибор настоящей машиной, утверждал он, все его действия были бы совершенно логичными, следовательно, он не допускал бы ошибок! Чем порочно это утверждение? Всего-навсего тем, что ничто не мешает нам использовать логический язык для описания алогичных рассуждений. В определенной степени верно, что машины могут выполнять только то, для чего они предназначены. Но это не удержит нас, когда мы узнаем, как работает мышление, от проектирования машин, которые способны мыслить.

Когда мы действительно используем логику в повседневной жизни? Мы используем ее для упрощения и обобщения наших мыслей. Мы используем ее, чтобы донести свои доводы до других людей и убедить их в правильности этих доводов. Мы используем ее, чтобы переформулировать собственные идеи. Но я сомневаюсь, что мы часто используем логику для решения задач или «получения» новых идей. Вместо того мы формулируем наши доводы и выводы в логических терминах, хотя создали или обнаружили их другими способами; лишь затем мы прибегаем к словесным и прочим формальным рассуждениям, чтобы «распутать клубок», отделить существенные моменты от «спагетти» прилипчивых мыслей и идей, сопровождающих эти моменты.

Чтобы понять, почему логика вторична, вспомним о решении задач при помощи метода генерации и тестирования. В любом подобном процессе логика выступает лишь частью рассуждений; она может быть инструментом тестирования, не позволяя прийти к ложным выводам, но она не в состоянии подсказать,