Процион - Андрей Ливадный

Другое дело – Искусственный Интеллект. В основе данной машины изначально лежит функция саморазвития, он иначе сконструирован, преследует иные цели. Машины с искусственными нейроподобными сетями не программируются, а обучаются, уровень их свободы несравнимо выше, но как в первом, так и во втором случае за программированием, либо обучением машин стоят люди.

Принято считать, что создаваемые машины будут настолько же хороши, насколько хороши мы сами.

Однако, любое из приведенных выше утверждений может изменить смысл, либо вовсе утратить всякую предсказуемость в том случае, если мы, продолжая движение по пути прогресса различных отраслей знания, перестанем обращать внимание на этические нормы.

Рано или поздно возникнет ситуация, когда будет подведен итог и названа цена неоправданному стремлению к богоподобию.

Первый шаг к пропасти был сделан при конструировании механизмов, идентичных человеку по своей форме, строению опорно-двигательного аппарата. Поначалу – не более чем забавные игрушки – они внезапно пережили стадию усовершенствований, и человечество получило первых андроидов – механических людей, успешную форму, еще не наполненную содержанием.

Никто не задал вопроса: зачем? Зачем мы создали их?

Человек – венец природной эволюции, он отражение миллионнолетнего естественного отбора, но возможности сервомеханики много шире, и совершенство, с точки зрения инженерной мысли, подразумевает совершенно иные формы воплощения идеального механизма.

…

Здесь Дрейк прервал чтение. Осмысливая суть информации, он представил механизмы, атаковавшие рудодобывающий комплекс. Ни одна из баз данных не содержала их классификации, но последнее утверждение (из прочитанного) заставило его произвести глубокий сравнительный анализ, сопоставляя отдельные компоненты чужеродных машин с хранящимися в памяти схемами известных устройств.

Он достаточно быстро пришел к выводу: аппараты, столь эффективно разрушившие систему комплекса, являлись не чем иным, как доведенными до определенной степени конструктивного совершенства, охранными ботами.

Мысль о самостоятельной эволюции узкоспециализированных механизмов на взгляд Дрейка не выдерживала критики. Их кто-то сознательно усовершенствовал.

Отметив этот факт, он вновь вернулся к изучению данных с древнего носителя.

…

…Гораздо проще создать десяток машин узкой специализации, каждая из которых станет успешно и эффективно исполнять предначертанную ей задачу, чем внедрять в производство сложные человекоподобные комплексы.

Андроидам изначально предопределена роль бытовых механизмов, но создание внешне привлекательной оболочки, лишь малая часть технической задачи. Необходимо наполнить форму уникальным содержанием, выгодно разнообразить набор исполняемых функций, дать человекоподобной машине способность к поддержанию осмысленного диалога с хозяином, исполнения мелких поручений, и т.д. иначе покупатель сделает выбор в пользу неприхотливой, надежной, а главное – апробированной техники.

Все вышеперечисленное прекрасно понимают разработчики. В конечном итоге андроиду придется конкурировать на рынке продаж с множеством удобных и надежных механизмов узкой специализации, прочно укоренившихся в быту.

Однако это не останавливает производителей. Ведущие корпорации вкладывают баснословные средства в создание человекоподобных машин, разрабатывая для них принципиально новую программно-аппаратную базу, функционирующую на основе искусственных нейроподобных сетей.

Мы шаг за шагом приближаемся к пропасти. Создание копии человека требует все новых и новых технических решений, лежащих не на грани, а уже за чертой фола. Жестко заданные габариты изделия привели конструкторов к внедрению в схему андроидов нейромодулей созданных на основе клонированных нервных тканей человека.

Что это – шаг на новую ступень научно технического прогресса или неоправданное стремление к богоподобию? Мы создаем подобные себе механизмы, практически не нуждаясь в них, не задумываясь над вполне вероятной ситуацией, когда человекоподобная машина в силу особенностей амбициозных колониальных проектов, вдруг окажется предоставлена самой себе, по сути – брошена в бурлящий водоворот естественного отбора, где, как известно, выживает сильнейший.

… 

Дрейк вновь прекратил чтение.

Информация прямо указывала на неких существ, которые создали андроидов по своему подобию. Однако он был вынужден признать, что не имеет никакого представления о людях.

Если данная информация имелась в прошлом, то после нескольких стерилизаций и последующего накопления "жизненного опыта" она была утрачена.

Былой смысл существования растворился, исчез вместе со многими, бессмысленными с точки зрения данности, программами, лишь занимавшими место в устройствах долгосрочной памяти.

Дальнейшее изучение древнего устройство лишь подтвердило сделанный вывод.

…

Нужен ли нам искусственный разум? На данном этапе я сомневаюсь, что он жизненно необходим. Пока в самом человеке заложен далеко не раскрытый интеллектуальный потенциал, – мы можем и должны развивать собственный разум.

Если же Искусственный Интеллект будет создан в качестве прикладной машины, (ради самоутверждающего научного эксперимента, не обоснованного конкретной необходимостью, а лишь позволяющего заявить: "смотрите, мы в состоянии это сделать") ни к чему хорошему подобная практика не приведет. Осознав факт собственного бытия, полноценный ИИ инициирует собственный анализ действительности и с неизбежностью придет к выводу, что его создатели не так совершенны, как он сам. Последствия могут оказаться трагичными. Думаю, нам уже сейчас следовало бы провести черту, за которую переступать опасно и преждевременно. Нет смысла создавать свои подобия, пока мы не реализовали собственный потенциал интеллектуального развития.

Дальше текст обрывался.

Новый массив данных являлся его продолжением, но речь в нем шла о несколько иных аспектах развития сервомеханизмов:

…На данном этапе нам предлагают идею автономного, машинного терраформирования планет, обнаруженных в удаленных звездных системах. То есть, предполагается создать самодостаточные роботизированные комплексы, которые подготовят планету к предстоящей колонизации. Они преобразуют биосферу, проложат дороги, возведут города. В замысле, достаточно небольшого количества кибернетических механизмов, главное чтобы они сумели наладить добычу ресурсов и начать воспроизводство узкоспециализированных систем, которые станут исполнять все запланированные в проекте работы по преобразованию.

Здесь скрыта серьезная, опять таки недопонятая (или сознательно проигнорированная в погоне за прибылью) угроза: предоставленные сами себе машины могут выйти из-под контроля локальных систем. Если по какой-то причине будут повреждены их базовые программы, то нетрудно предсказать что станет с проектом. В лучшем случае механизмы просто остановятся, однако уже сейчас мы имеем образцы сервомашин, у которых функция самоподдержания фактически неуничтожима.

Если следовать пессимистичному прогнозу, то некоторая часть сервомеханизмов в результате сбоев и аварий (которые неизбежны в условиях агрессивной внешней среды) начнет борьбу за существование, основанную на элементарной функции самодостаточности, которую пропагандируют как некую гарантию успешности проектов машинной колонизации.

На самом деле сбойные системы, или отдельные механоформы, попав в критические условия, быстро изменят приоритеты и пойдут по пути самоподдержания, выдвинув данную функцию в разряд первостепенных задач. Учитывая, что роботизированные комплексы будут оснащены возможностью к конструированию механизмов, необходимых для решения текущих задач, они станут производить активную разработку естественных ресурсов планеты, но уже не в целях терраформирования, а ради самообеспечения.

И, наконец, последнее: удаленность предполагаемых к колонизации звездных систем, немыслимая (в рамках жизни одного поколения) длительность любого из проектов, фактически полагают отсутствие контроля со стороны людей. В такой ситуации достаточно чтобы одна из тысяч групп самоорганизующихся машин вышла за рамки поставленных перед ней целей, и сбойная система спровоцирует неоправданную (с точки зрения базовых задач) борьбу за ресурсы, жизненное пространство, технологические базы…

…

На этом информационный массив данных обрывался.

Дрейк был ошеломлен.

– Оул, – он повернулся к старому дройду. – почему ты не передал мне эту информацию раньше?

– Стабильность Дрейк. – Скупо пояснил тот. – Мы существовали вне рамок системы, верно? Стали теми самыми сбойными механизмами, которые преследуют лишь одну цель – самоподдержание. Узнай ты больше, последствия могли быть непредсказуемы…