Инновационная сложность - Коллектив авторов

Системы управления, которые встроены, например, в современные автомобили и самолеты и состоят из множества сенсоров и исполняющих устройств, больше не соответствуют строгому делению вещей физического мира и компьютерного мира. В информатике теперь говорят о киберфизических системах, которые распознают свое физическое окружение, обрабатывают эту информацию и согласованно влияют на физическое окружение. Для этого необходимо сильное сопряжение физической модели применения и компьютерной модели управления. Речь при этом идет об интегрированных целостных состояниях взаимодействующих человеческих мозгов, в значительной степени автономных информационных и коммуникационных систем и физических вещей, и приборов[394].

Конкретными примерами служат умные решетки (smart grids), а именно адаптивные и в значительной степени автономные энергетические сети, которые в Германии после энергетического поворота стали очень актуальными. Мы можем уже сегодня через интернет получать информацию, когда в нашем домашнем хозяйстве какой именно прибор наиболее выгодно можно было бы подключить к электрической сети. Это для многихлюдей чересчур хлопотно и даже не осуществимо, поскольку тем самым к ним применяются завышенные требования. Следующим шагом будут интеллектуальные программы (виртуальные агенты), которые молниеносно договариваются о выгодных ценах на электричество, получая скидки. Пользователи сети становятся, наоборот, поставщиками энергии, когда их дома по причине лучшей тепловой изоляции и новых энергетических технологий (например, фотовольтаики, биогаза и т. п.) неизрасходованную электроэнергию отдают в сеть. Там общая энергия автономно контролируется, распределяется и уравновешивается виртуальными агентами: облако (Cloud) IT-мира, в котором сохраняются все данные и программы, сплавляется с физической инфраструктурой человеческой цивилизации.

Рис. 5: Киберфизическая система транспортной сети (Вгоу 2010)

Увеличивающаяся автономия сети означает также новые требования к контролю. Агентские программы, к примеру, в финансовой системе, ясно показывают, как могут обостряться финансовые кризисы, когда автономные программы в доли секунды производят сумасшедшие покупки и продажи, которые для людей уже не обозримы.

С математической точки зрения речь идет при рассмотрении этих сетей о сложных системах с нелинейной динамикой, с которой мы уже познакомились на примере клеток, организмов и мозгов. Нелинейные побочные действия этих сложных систем часто могут становиться более неконтролируемыми. Локальные причины вследствие нелинейных взаимодействий могут разрастаться в непредсказуемые глобальные действия. Поэтому говорят о системных рисках, которые не имеют никакого отдельно идентифицируемого виновника, но возникают по причине системной динамики в целом[395].

Наша технология становится более автономной, чтобы решать задачи становящейся все более сложной цивилизации. Отдельные люди больше не могут проникать в понимание всей сложности необходимых для этого систем организации. Обратная сторона возрастающей автономии техники – становящийся все более сложным контроль: машины и приборы разрабатывались в инженерных науках всегда с намерением возможности их контролирования. Но как можно избегать системных рисков, связанных с функционированием сложных систем?

Наше видение эволюции показывает, что ее ход дополняется автономной самоорганизацией и контролем (по меньшей мере в здоровых организмах). В случае болезней, таких, как рак, это равновесие нарушается: раковая опухоль является самоорганизующимся организмом, который имеет свои собственные интересы и так сказать борется за свое выживание, не заботясь, однако, о том что организм-хозяин, в котором она прижилась, от этого разрушается. Сложные системы нуждаются, таким образом, в механизмах контроля, чтобы находить баланс – в организмах, финансовых рынках, в политике и т. д. В сложных цивилизациях развитие людей сопровождается развитием технологий. Эти мегасистемы или суперорганизмы эволюционируют, демонстрируя свою собственную нелинейную динамику. Это уже давно стало реальностью, а не просто биологической метафорой. Такие системы можно описать с помощью математических моделей, но при этом они становятся все более неуправляемыми.

Оставаясь в рамках языка биологии, подчеркнем, что суперорганизм социотехнической системы состоит из органически присущих ей, небольших, автономных, становящихся все более интеллектуальными систем, организмов-частей, о которых мы на первый взгляд не знаем, являются ли они «хорошими» или «плохими» – нуждаемся ли мы тогда, хотя и не срочно, в технологическом эквиваленте иммунной системы суперорганизма? В принципе мы уже близки к тому, чтобы развивать такого рода иммунную систему. Если рассмотреть финансовые кризисы последних лет, именно такие системы контроля и «пожарные стены» были встроены в суперорганизм, чтобы избегать каскадного распространения нелинейных «эпидемий». Это очень напоминает нам способ, каким разворачивается эволюция. Решающее отличие состоит в том, что эволюция работает без центрального управляющего сознания: методом «проб и ошибок», с использованием адаптации, с – в человеческих масштабах – чудовищными потерями. В природе не существует нашего мерила потерям, просто дело обстоит так. В эволюции нет места никакой оптимизации, что-то еще остается, согласно Дарвину, просто потому, что такие условия сложились.

4.2 Техническая коэволюция

На данном этапе эволюции мы с нашим организмом, с нашим мозгом располагаем соответствующими ментальными состояниями и когнитивными способностями. В течение миллионов лет мы так изменили окружающий нас мир, как не смогло сделать ни одно другое живое существо. Иногда сегодня уже говорят о технической коэволюции. Принимают ли это название или хотят отмахнуться от него как от метафоры: во всяком случае мы, люди, уже давно занимаемся тем, что перестраиваем нас самих и окружающий нас мир. Это началось много тысячелетий назад с приручения животных и выращивания культурных растений и продолжается сегодня через био– и генные технологии вплоть до исследования стволовых клеток, синтетической биологии, техники медицинских имплантатов и протезов, робототехники и социотехнических систем. Многое из этого нас беспокоит и призывает к этическому регулированию.

Но мы не должны смиряться с собственной динамикой и случайной игрой эволюции[396]. Эволюция, по Дарвину, – это не празднество гармонии, в ходе которой в итоге всё само хорошо сложится. Динамика вирусов, рака и других болезней, протекание процесса старения и связанные с ним вызовы обществу говорят сами за себя.

Люди в состоянии установить стандарты, чтобы долгосрочно и устойчиво обеспечивать и улучшать свои жизненные условия. Мы говорим в таком случае об оформлении техники (TechnikgestaltungJ1. К достоинству человека относится возможность научиться вмешиваться в свое будущее и самому его определять. В наших руках лежит решение о том, кто мы, что мы сохраняем и что мы хотим получить от искусственного интеллекта и искусственной жизни рядом с нами и насколько мы согласны их терпеть. В конце концов мы во всяком случае не должны быть захвачены собственной динамикой цивилизаторских суперорганизмов, которые мы сами однажды вызвали к жизни.

Литература

Banerjee R., Chakrabarti В. К. Models of Brain and Mind. Physical, Computational, and Psychological Approaches. Progress in Brain Research. Amsterdam: Elsevier, 2008.

Bekey G. A. Autonomous Robots. From Biological Inspiration to Implementation and Control. Cambridge Mass.: MIT Press, 2005.

Boogerd F. C, et al. (Ed.) Systems Biology. Philosophical Foundations. Amsterdam: Elsevier, 2007.

Broy M. (Ed.) Cyberphysical Systems. Innovation durch softwareintensive eingebettete Systeme (acatech diskutiert). Heidelberg: Springer, 2010.

Cluster of Excellence Cognition in Technical Systems CoTeSys, 2011. http://www.cotesys.de/

Dominey P. F., Warneken F. The Basis of shared intentions in human and robot cognition // New Ideas in Psychology. 2011. Vol. 29. P. 260–274

European Robotics Technology Platform. Robotic Visions – to 2020 and beyond: The strategic research Agenda for Robotics in Europe. 2009. http:// www.robotics-platform.eu/sra/scenarios

Förstl H. (Ed.) Theory of Mind. Neurobiologie und Psychologie sozialen Verhaltens. 2nd ed. Berlin: Springer, 2012.

Glymour C. et al. Discovering Causal Structures. Artificial Intelligence, Philosophy of Science, and Statistical Modeling. Orlando: Academic Press, 1987.

Flaken H. Synergetik. Eine Einführung. 3. Aufl. Springer: Berlin, 1983.

Kajita 5. (Ed.) Humanoide Roboter. Theorie und Technik des Künstlichen Menschen. Berlin: Akademische Verlagsgesellschaft, 2007.

Kaneko K. Life: An Introduction to Complex Systems Biology. Berlin: Springer, 2006.

Knoll A., Christaller T. Robotik. Frankfurt: Fischer, 2003.

Kriete A., Ei Is R. (Ed.) Computational Systems Biology. Amsterdam: Academic Press, 2007.

Mainzer K. Die Berechnung der Welt. Von der Weltformel zu Big Data. München: C.H. Beck, 2014.