Нереальная реальность-3 - Андрей Кананин

Очень важным является вопрос о том, способны ли роботы в принципе испытывать эмоции. Смогут ли они когда-нибудь по-настоящему искренне плакать, смеяться над шутками, испытывать переживания, слушая музыку и читая книги?

Сама природа мышления предполагает наличие эмоций. Такие человеческие черты, как любовь, ревность, страх появились в ходе эволюции миллионы лет назад. Благодаря эмоциям наши предки получили дополнительные возможности для воспроизводства и защиты от внешнего мира.

Нас окружает очень много опасностей и сравнительно мало полезных и приятных вещей. Эмоции позволяют разделить полезное и вредное. Очевидно, что без них очень сложно осуществить правильный выбор. Эмоции формируют нашу шкалу ценностей: одно красиво, но дорого для вас; другое дёшево, но вам не нужно; а кое-что вообще бесплатно, но очень вредно. Нам постоянно приходится выбирать, в том числе, руководствуясь собственными чувствами. Без эмоций всё будет иметь одинаковую значимость.

Без эмоций невозможно адекватно оценить обстановку, особенно в критической ситуации. Робот не в состоянии понять, что при пожаре необходимо в первую очередь спасать детей и женщин, а не столь же «равноценных» мужчин. Ему практически невозможно объяснить смысл слова «абсурд».

Может ли робот переживать внутренний опыт? В принципе ничего не мешает задать такой вопрос искусственному интеллекту напрямую. Но насколько адекватен будет ответ?

Даже если робот сообщит исследователям, что он обладает интеллектом, это очень сложно объективно проверить. Дело в том, что поведение искусственного интеллекта может быть основано на принципиально других глубинных принципах. Не будет ли это «машинным» жизненным опытом, непонятным нам?

Следующий принципиальный вопрос – если структура электронного мозга будет идентична органической, то будет ли робот обладать сознанием?

Существует точка зрения, что в компьютер невозможно вложить субъективные особенности сознания и психики. В качестве базовой информации можно попробовать поместить в ЭВМ определённые объективные показатели работы мозга и протекающих в нём процессов. И на этой основе попытаться запустить имитацию функционирования мозга на платформе электронного носителя. Тогда собственное «Я» робота начнёт формироваться в результате активизации электронного мозга по тому же принципу и механизму, как это происходит в живом организме.

Постепенно субъективный мир искусственного интеллекта расцветёт эмоциями, переживаниями и ощущениями. Произойдёт превращение объективно протекающих нейродинамических процессов в субъективный мир личности. Разумеется, такой сценарий по умолчанию предполагает, что появление сознания на базе искусственного электронного носителя возможно в принципе. В противном случае, вообще нет смысла рассуждать о проблеме.

Есть два базовых подхода к перспективе создания разумных роботов.

Первый заключается в том, чтобы попытаться запрограммировать все возможные правила, присущие интеллекту. Задача состоит в создании носителя, на котором были бы заложены все принципы разумности.

Второй подход предполагает возможность запрограммировать имитацию мышления в логике здравого смысла. Сложность в том, что для этого необходимо чрезмерно много строк кода. Но их итоговое число не бесконечно. Поэтому, при достижении необходимых вычислительных мощностей квантовый компьютер, видимо, способен справиться с задачей.

Ведущие мировые специалисты уверены, что искусственный интеллект должен иметь много блоков памяти, организованных по сетевому принципу.

Для появления проблесков разума очень важно уметь предвидеть ситуацию и сравнивать свои прогнозы с текущими изменениями в окружающем мире.

Есть мнение, что, например, творчество основывается на использовании механизмов предвидения. Отдельно должны формироваться воспоминания, архивироваться прообразы для дальнейшего ассоциативного узнавания незнакомых объектов. Имеющиеся знания, основанные на аналогиях, будут использоваться для решения новых задач.

Важно научить робота корректировать свои действия, выдвигать гипотезы, отсекая те, которые не подтверждаются наблюдениями и опытом. Современные компьютеры пока не способны качественно решить ни одну из этих задач. Тем не менее, я верю, что нам удастся создать мыслящие машины.

Когда я высказываю эту свою убеждённость, мне всегда задают вполне справедливый вопрос – а не получится ли так, что искусственный интеллект уничтожит нас, своих создателей? Не буду кривить душой, такие риски есть. Не могу не обозначить их в этой главе.

Машина может стать врагом при определённых обстоятельствах.

1.Контроль над искусственным интеллектом установит человек, либо группа лиц с корыстными личными целями. Для их выполнения искусственному интеллекту может быть поставлена задача уничтожения людей, либо их качественная «переделка».

2.В определённый момент времени искусственный интеллект будет контролировать все стратегические сферы жизнеобеспечения на планете для пользы человечества. Но в программе случится сбой, что повлечёт катастрофические последствия. Искусственный интеллект сломается и начнёт неумышленно совершать действия, которые приведут к непоправимым последствиям для жизни на Земле.

3.Искусственному интеллекту для решения какой-либо сверхсложной задачи могут потребоваться все земные ресурсы. Жизнь на планете для людей станет невозможной.

4.Люди по каким-то причинам будут постоянно стремиться подчинить себе искусственный интеллект, бороться с ним, мешать его работе. В такой ситуации наиболее простым решением станет уничтожение человечества.

5.Искусственный интеллект примет ошибочное решение, ведущее к уничтожению людей «для их же блага». Например, переместит всех в «рай» или в вечно «счастливый» виртуальный мир.

6.Искусственный интеллект решит провести опасный физический эксперимент и допустит ошибку в расчётах, что вызовет необратимые последствия для жизни.

7.Внутри дружественного искусственного интеллекта появится враг, конкурент и уничтожит его, а затем и людей.

Из сказанного выше видно, что не исключен вариант, когда homo sapiens не впишется в те кардинальные изменения, которые будут происходить в мире.

Люди могут стать тормозами прогресса.

Когда искусственный интеллект обретёт сверхчеловеческое сознание, прогресс, управляемый столь мощным разумом, станет невероятно быстрым. Достаточно скоро наступит событие, которое Вернор Виндж4 назвал технологической сингулярностью.

В этот день мы перестанем быть самыми разумными существами на Земле. В мире воцарится новая реальность, очень далёкая от привычной нам. Это будет критическая точка развития цивилизации. Если человечество не сможет её преодолеть, то наш вид просто исчезнет с лица Земли.

Вероятно, уже в недалёком будущем нам придётся жить в одном мире с искусственными разумными существами. Мы находимся на пороге перемен, сопоставимых с появлением человека на Земле.

Как только искусственный интеллект достигнет уровня самосовершенствования, его дальнейшее развитие пойдёт очень быстро. По своим умственным возможностям он начнёт превосходить человека в миллионы раз.

Любопытно, что могущественный искусственный интеллект способен скрывать свое господство. Иначе говоря, может быть, он уже тайно управляет нами.

Глава 2. Постчеловеческое будущее

Многие тысячелетия назад, практически с начала верхнего палеолита, темп эволюции человека резко замедлился. Люди практически не менялись, менялись технологии. Похоже, что в XXI веке впервые кардинально изменится сам человек.

За последние 100 лет развитие нашей цивилизации неимоверно ускорилось. Десятки веков основным транспортным средством у людей была лошадь. И всего лишь за один век мы последовательно поменяли коня на автомобиль, поезд, самолёт. Человек даже слетал в космос.

Со времени рождения многих ныне живущих людей случилось столько же технологических прорывов, как за всю предыдущую историю. Буквально на памяти одного поколения произошли гигантские изменения в физике, биологии, астрономии. Однако, за те же 100 лет человечество пережило две мировые войны и множество техногенных катастроф. Поэтому, с одной стороны, прогресс не может не радовать, с другой – должен насторожить.

Не приближаемся ли мы к некой точке, когда ситуация просто выйдет из-под нашего контроля?

А, может быть, гибель нашей цивилизации – это объективный, неизбежный итог определённой стадии эволюции живого?

Многие считают человека венцом творения. Однако, если оценить этот самоуверенный вывод с точки зрения космологии, то он представляется весьма спорным.

От появления первой жизни до появления жизни разумной прошло около четырёх миллиардов лет. За это время Солнце не прожило даже половины своей жизни, не говоря уже о нашей Галактике и, тем более, о Вселенной в целом.