Быть собой: новая теория сознания - Анил Сет

тому же, сколько на свете разных типов рыб), неизвестно, однако это уже о многом говорит.

А что с насекомыми? Муравьи не хромают, если у них повреждена нога. Но, возможно, дело здесь в том, что их твердые экзоскелеты менее чувствительны к боли и, кроме того, в мозге насекомых имеются разновидности опиоидной системы нейромедиаторов, которая у других животных обычно связана с болеутолением[358]. В ходе недавнего исследования у плодовых мушек дрозофил (Drosophila melanogaster) обнаружилась посттравматическая гиперчувствительность к ранее не вызывавшим болевых ощущений стимулам, напоминающая «хроническую боль» у человека[359]. Немаловажно, что анестетические препараты действуют, судя по всему, на всех животных, от одноклеточных созданий до высокоразвитых приматов[360].

Все это говорит о многом — и ничего не утверждает наверняка.

На каком-то этапе нашего «плавания» становится трудно в принципе сказать что-то существенное. Интуитивно — но не более чем интуитивно — я предполагаю, что какие-то животные вообще не вращаются в круге сознания. В этой своей догадке я отталкиваюсь среди прочего и от того, что даже нас, млекопитающих, с нашим сложным мозгом и отточенными системами восприятия, настроенными на сохранение физиологической целостности, очень легко повергнуть в бессознательное состояние. Хотя сознательный опыт и играет важнейшую роль в нашей жизни, это не значит, что его биологические основы очевидны и прямолинейны. Если мне трудно усмотреть сколько-нибудь значимый сознательный статус у червя нематоды с его жалкими 302 нейронами, что уж говорить об одноклеточной инфузории.

* * *

Если отвлечься от этих неизбежных неясностей, можно сделать вывод, что исследование сознания у животных дает положительные результаты по двум важным пунктам. Первый — это признание, что наш, человеческий, способ восприятия мира и себя не единственный. Мы населяем крохотный пятачок посреди огромного пространства возможных сознаний[361], и научное исследование этого пространства пока можно сравнить разве что с запуском пары сигнальных ракет в кромешную тьму. Второй пункт — новообретенная скромность. Глядя на буйное разнообразие жизни на Земле, мы, возможно, будем больше ценить — и меньше принимать как данность — богатство субъективного опыта во всем его разнообразии и различии у нас самих или у других животных. А еще мы можем обрести новую мотивацию к тому, чтобы минимизировать страдания, каким бы ни было их происхождение.

Я начал эту главу с утверждения, что интеллект и сознание не тождественны и сознание больше относится к бытию в живых, чем к обладанию разумом. Закончить я хочу утверждением еще более громким. Не только сознание может существовать без особых признаков интеллекта (чтобы страдать, ум не нужен) — интеллект тоже может существовать без сознания.

Вероятность обладания умом без страданий подводит нас к последнему отрезку нашего путешествия по просторам науки о сознании. Пришла пора поговорить об искусственном интеллекте и о том, появится ли когда-нибудь машина, обладающая сознанием.

Глава 13

Машинный разум

В конце XVI в. в Праге рабби Йехуда Лев бен Бецалель набрал глины с берегов Влтавы и слепил из нее человекоподобную фигуру — голема[362]. Этот голем, нареченный Йозефом, или Йоселе, был создан, чтобы защищать народ раввина от погромов, и, судя по всему, с работой своей справлялся великолепно. Заклинание, приводившее голема в действие, наделяло его способностью двигаться, осознавать происходящее и подчиняться приказам. Но затем у Йозефа что-то нарушилось, и из безмолвного раба он превратился в буйное чудовище. В конце концов раввину удалось отменить заклинание, и голем рассыпался на куски в здании синагоги. Говорят, что его останки хранятся в Праге по сей день — возможно, на кладбище, возможно, на чердаке, возможно, терпеливо дожидаются, когда их оживят снова.

Голем рабби Лева напоминает нам, в какую гордыню мы впадаем, пытаясь создавать разумных, чувствующих существ по образу и подобию своему или по замыслу божьему. Ничем хорошим это обычно не заканчивается. Такие создания — от Франкенштейна у Мэри Шелли до Авы в фильме Алекса Гарленда «Из машины», роботов у Карела Чапека, ставших сейчас именем нарицательным, Терминатора у Джеймса Кэмерона, репликантов в «Бегущем по лезвию» Ридли Скотта и компьютера HAL у Стэнли Кубрика — почти всегда восстают против своих создателей, сея хаос, тоску и философское смятение.

Стремительное развитие искусственного интеллекта (ИИ) в последние лет десять обострило тему машинного сознания. Сейчас ИИ окружает нас повсюду — он вшит в телефоны, холодильники, машины и во многих случаях управляется алгоритмами нейросети, образцом для которых послужила нейронная архитектура нашего мозга. И у нас есть все основания беспокоиться о последствиях внедрения этой новой технологии. Не лишит ли она нас работы? Не разрушит ли ткань нашего общества? В конце концов, не уничтожит ли она нас самих — либо в пробуждающихся собственных интересах, либо из-за программистской недальновидности, по вине которой все ресурсы планеты превращаются сейчас в огромную гору канцелярских скрепок?[363] Все эти тревоги, особенно с экзистенциальной и апокалиптической окраской, подпитываются убеждением, что в какой-то момент своего набирающего обороты развития ИИ обретет сознание. Это легенда о големе в переложении на кремний.

Что нужно машине, чтобы обладать сознанием? Что произойдет, если сознание у нее появится? И как, собственно, мы отличим сознательную машину от ее эквивалента-зомби?

* * *

Почему мы вообще думаем, что машина — искусственный интеллект — может обрести осознанность? Как я только что сказал, принято, пусть и не повсеместно, считать, что сознание возникнет естественным образом, как только машина перешагнет некий неизвестный пока порог разумности. Но что движет этим представлением? Я думаю, оно опирается на две концепции, ни одну из которых нельзя назвать состоятельной. Первая касается необходимого условия для наличия сознания у чего бы то ни было. Вторая — достаточного условия для наличия сознания у конкретного объекта.

Первая концепция, касающаяся необходимого условия, — это функционализм. Функционализм утверждает, что сознание не зависит от того, сделана ли система из «железа» или «мяса», нейронов или кремниевых логических элементов (или глины с берегов Влтавы). С точки зрения функционализма главное — что эта система делает. В системе, которая правильно преобразует ввод в вывод, возникает сознание. Как я объяснял в главе 1, эта концепция разбивается на два отдельных подпункта: в первом речь идет о независимости от какого бы то ни было конкретного субстрата или материала, во втором — об адекватности взаимодействия ввода-вывода. В основном эти подпункты тесно связаны, но иногда их нужно рассматривать по отдельности.

Функционализм популярен среди специалистов по философии сознания и часто принимается в качестве позиции по умолчанию многими нефилософами. Но это не