Технологии Четвертой промышленной революции - Николас Дэвис

• Достоинство человека, независимо от расы, пола, происхождения и убеждений.

• Важность общего блага, превосходящая индивидуальные интересы.

• Необходимость разумного управления и заботы не только о нас самих, но и о наших потомках.

Чтобы привить эти ценности, важны как личные, так и коллективные усилия. Необходимо внедрить эти ценности в общественную жизнь, чтобы преодолеть разрыв между стремлениями и практикой. Обсуждения недостаточно – мы должны принимать решения. Успех зависит от трансформирующего ценностно-ориентированного лидерства во всех областях человеческой деятельности. Мы должны культивировать, поощрять и приветствовать новые модели поведения как на Всемирном экономическом форуме, так и вне его. Необходимо привлекать людей, которые смогут эффективно и продуктивно решать глобальные задачи, людей, которые построят и оставят после себя более справедливый, изобильный и жизнеспособный мир.

Примеры ценностно-ориентированного управления в действии уже существуют. Общий регламент по защите данных (General Data Protection Regulation, GDPR), принятый Евросоюзом, вступит в силу в середине 2018 года. Это постановление изменит правила получения согласия пользователя на обработку персональных данных и потребует предоставления соглашения с понятными условиями. Компании, управляющие данными, должны будут уведомлять пользователей об инцидентах безопасности[3], предоставлять информацию об использовании данных, соблюдать «право на забвение»[4], обеспечивать переносимость данных, при необходимости нанимать специалистов по защите данных и выполнять юридические требования к безопасности данных на этапе проектирования технологий и служб{28}.

Акцент GDPR на обеспечении конфиденциальности на этапе проектирования технологий демонстрирует тщательный подход к практической реализации ценностей: внедрение ценностей в процессы разработки технологий, чтобы их разработка отражала ценности общества, а не только их создателей. Вместо того чтобы пытаться решить проблемы, возникшие из-за принципа невмешательства в технологии и этику, лучше сразу решать вопросы этики, ценностей и социальных последствий на различных этапах технологической разработки. Этим мы окажем важное влияние на то, как технологии интегрируются и поддерживают стремление общества к всеобщему благосостоянию. Блокчейн, Интернет вещей, автономные системы, нейротехнологии и алгоритмы – это примеры технологий, которые создаются специализированными сообществами с узкими интересами, иногда в тех областях, где ценности еще предстоит явно определить.

К сожалению, интегрировать нужные ценности в процессы технологического развития не всегда легко. Это нельзя сделать, просто добавив некий «этический компонент», – для этого может потребоваться принятие новых методологий, формирование организационной культуры и даже изменение рыночного мышления, предполагающего, что двигателем прогресса является экономика. Другая сложность заключается в том, что многие технологии, особенно цифровые, можно использовать разными способами, а риски и потенциальные последствия их применения сложно оценить. Даже если сделать прогноз рисков, не все технологии предусматривают возможность «программирования». Например, неясно, как разрабатывать блокчейн-технологии, чтобы предотвратить их использование преступными организациями или уменьшить их экологический вред из-за чрезмерного потребления энергии. Тем не менее компаниям и организациям следует думать не только о проектировании и внедрении – они должны включаться в социально ответственные процессы с самого начала. На уровне инженерии и разработки продуктов следует учитывать не только экономические стимулы и технические требования к разработке и использованию технологий, но и влияние на общество{29}.

Внедрение ценностей в технологии

Успешно возвести общественные ценности в приоритет невозможно без нисходящего регулирования. Для этого необходимо поднять вопрос о ценностях и дать людям и организациям возможность перейти на новые модели поведения. Кроме того, требуется вдохновение и мотивация от общественных лидеров. Начало может быть положено во многих местах, о чем говорится далее, в разделе, посвященном переломным моментам, но в любом случае, чтобы помочь изменить поведение, повысить уровень осведомленности о широком влиянии технологий и способствовать возведению общественных ценностей в приоритет, можно использовать следующие подходы к технологиям.

Во-первых, критически важно осознавать серьезность и всепроникающее влияние технологий. Технологии вовлечены в каждый аспект человеческой жизни, они помогают нам взаимодействовать друг с другом, поддерживают нашу экономику, влияют на наше здоровье и окружающую среду, позволяют обрабатывать информацию, от которой зависит работа организаций и отдельных людей. В таких сферах, как производство передовых материалов и фармацевтических средств, уже давно сложился ответственный подход к технологиям, и другие технологии, от поисковых и автономных систем до блокчейна, требуют похожего отношения. Если рассматривать не только влияние на уровень смертности, но и совокупное влияние технологий на нашу жизнь, можно по-новому взглянуть на многие технологии, кажущиеся безобидными.

Во-вторых, более четкую перспективу для использования технологий могут дать размышления о персональной или организационной цели. Научные и технологические исследования требуют свободы для выхода за существующие границы, но мы должны также стараться согласовывать новые возможности со стремлением к благосостоянию общества. Например, в знаменитой речи, произнесенной в 1945 году после применения первых атомных бомб, физик Роберт Оппенгеймер сказал, что предназначение ученого – получать знания и делиться ими во благо человечества{30}. Начав с этого, он выступил за создание комиссии по атомной энергии, свободный обмен информацией и прекращение производства бомб, призывая проявлять любознательность, амбициозность и коллективную ответственность.

В-третьих, приоритет ценностей позволяет превратить убеждения в действия. Огромную помощь в этом может оказать укрепление веры в ценности, провозглашенные организацией. Этический кодекс или просто организационная концепция с изложением целенаправленного ценностно-ориентированного подхода к технологиям может способствовать формированию соответствующей культуры в организации или даже в целой профессии или отрасли. В качестве примера можно привести клятву Гиппократа, которая помогает помнить о потенциальном риске исследований, анализа и применения технологий, и может быть одной из причин того, что в индустрии биотехнологий, подверженной влиянию медицинского сектора, наблюдается довольно высокий уровень самоанализа и самоограничения.

Наконец, важно использовать поворотные точки, когда ценности могут стать эффективным средством для формирования технологий и путей их разработки. Опираться на благие намерения и обязательства важно, но граждане и лидеры могут приложить больше усилий для повышения уровня осведомленности в критические моменты разработки технологий. Например, на уроках этики педагоги могут демонстрировать важность рационального принятия решений на примере «проблемы вагонетки»{31}.

Эта этическая головоломка позволяет студентам понять, что сложные для людей решения часто основываются на неосязаемых жизненных принципах, цену которых невозможно точно определить. Если такие решения должны принимать машины, эти неизмеримые критерии необходимо представить в виде кода. Поворотные точки дают лидерам возможность подчеркнуть роль ценностей в формировании технологий.

Почему ценности?

Стюарт Уоллис (Stewart Wallis), независимый мыслитель, спикер и сторонник Новой экономической системы, Великобритания.

Мир сталкивается с проблемами, которых никогда не было. Впервые за всю историю человечества мы достигли критических пределов планетарной экологии или уже вышли за них. В то же время к 2050 году мы должны создать около 1,5 млрд новых рабочих мест или обеспечить людей другими средствами к существованию в условиях роста населения и еще более быстрых технологических изменений (многие из которых ведут к исчезновению существующих профессий). Более того, при текущих темпах расходования углеродных источников топлива и других редких экологических ресурсов мы сталкиваемся с потенциальным конфликтом между направленностью на создание новых рабочих мест и заботой о благополучии планеты. Добавьте сюда растущую геополитическую напряженность и межконтинентальное движение беженцев и экономических мигрантов, постоянное увеличение глобального неравенства в уровне благосостояния и доходов, положительные и отрицательные последствия Четвертой промышленной революции – и станет очевидно, что все это приведет либо к катастрофическому регрессу, либо к позитивному преображению человеческого прогресса. В любом случае, мы увидим ошеломляющее изменение системы. Есть много потенциальных решений, но воспользуемся ли мы ими и будут ли изменения положительными, в значительной степени зависит от ценностей.