«Если», 2015 № 03 - Артем Желтов

Роботы уже среди нас, и они могут быть потенциально опасны, как, впрочем, и газонокосилки, обычные, не роботизированные. Так как средний робот устроен несколько сложнее средней газонокосилки, то и спектр возможных угроз получается шире. Рассмотрим их по порядку.

1. ФИЗИЧЕСКИЙ УЩЕРБ

1.1. Случайный

Большая часть действующих роботов не предназначена для причинения вреда человеку, что совершенно не гарантирует отсутствия сбоев или ошибок в эксплуатации, ведущих к несчастным случаям. Прежде всего это касается промышленных автоматов и сложных роботизированных инструментов, управляемых человеком непосредственно. Отдельную группу риска составляют автономные транспортные средства. Например, 1 июля 2015 года в Маунтин-Вью произошло первое ДТП с участием беспилотного автомобиля, в результате которого пострадали люди. В самоуправляемый экомобиль Google сзади врезалось другое транспортное средство. Причиной аварии послужил человеческий фактор. Все участники ДТП пострадали незначительно.

Бытовые роботы пока еще не так распространены и возможностей для причинения серьезного вреда имеют меньше (пол поцарапать или кота напугать — максимум, что может учинить взбесившийся робот-пылесос, кроме того, в случае необходимости его всегда можно прибить табуреткой).

Обезопасить себя от физической робоугрозы можно несколькими способами.

РЕШЕНИЕ № 1.

Инженерно-техническое

Данный вариант предполагает работу с «железом»: усовершенствование системы датчиков, повышение точности управления, облегчение конструкции и т. д.

Интересный подход к обеспечению безопасности роботов, непосредственно взаимодействующих с людьми, предлагает компания Bionic Robotics. Вместо того чтобы полагаться на системы контроля, данная фирма проектирует роботов таким образом, что они физически не могут приложить достаточно усилий, чтобы нанести вред человеку.

Кто защитит их от нас?

Американское общество по предотвращению жестокого обращения с роботами занимается правами роботов с 1999 года. По крайней мере, так написано у них на сайте. Последние технологические разработки убедили многих, что появление полноценного искусственного интеллекта гораздо ближе, чем считалось ранее. Пока еще никто из роботов за помощью к представителям данной организации не обращался, но когда это случится, они будут готовы.

www.aspcr.com

РЕШЕНИЕ № 2.

Идеологическое

Три закона робототехники Азимова продолжают вдохновлять разработчиков на попытки встроить в автономных роботов алгоритмы морали и нравственности.

В частности, созданием искусственного интеллекта, способного принимать этические решения в сложных ситуациях, занимается группа исследователей из Университета Тафтса, Университета Брауна и Политехнического института Ренсселера совместно с ВМС США.

На практике это направление пока дает больше вопросов, чем ответов. Во-первых, само определение базового перечня норм в непротиворечивой форме достаточно затруднительно. Во-вторых, действительно сложные с точки зрения этики ситуации единственно верного решения не имеют по определению. Например, как должен среагировать беспилотный автомобиль, если на дорогу выскочил ребенок и избежать столкновения можно только ценой жизни пассажира? Наконец, остается проблема ответственности за сделанный роботом выбор.

РЕШЕНИЕ № 3.

Нормативно-правовое

Принятие формальных правил существенно снизит риски, связанные с взаимодействием человека и робота, и, кроме того, позволит определить степень ответственности.

Первым местом в мире, где официально разрешили движение беспилотных автомобилей по дорогам общего пользования, стал штат Невада (США). Свод специальных правил, регулирующих использование автономных транспортных средств в штате, был опубликован в 2012 году.

1.2. Намеренный

Казалось бы, то, что создание Терминатора — плохая идея, в настоящее время должно быть понятно интуитивно, однако люди работают и в этом направлении.

Военные беспилотники сейчас уже никого не удивляют, да и участие роботов в боевых действиях уже скоро станет реальностью. Например, в демилитаризованной зоне между Северной и Южной Кореей наряду с солдатами службу несут боевые машины, оснащенные пулеметами и датчиками тепла и движения.

В настоящее время решение открывать огонь принимает оператор, но, в принципе, роботы могут действовать и автономно.

В теории защититься от армии роботов-убийц для человечества не так уж и сложно, достаточно их не создавать. На практике, как правило, все несколько сложнее. И хотя решение проблемы лежит в плоскости международного и национального законодательства, в мире уже сейчас набирает обороты движение за запрет на разработку и использование роботов-убийц. В 2013 году для продвижения этой идеи было создано объединение неправительственных организаций The Campaign to Stop Killer Robots. К запрету автономных боевых систем призывает ООН. В 2015 году с аналогичной инициативой выступили известные ученые и технологические предприниматели со всего мира, в том числе Элон Маек, Стив Возняк и Стивен Хокинг.

2. МОРАЛЬНЫЙ УЩЕРБ

Распространение сервисной и потребительской робототехники может привести к тому, что личного пространства у человека практически не останется. Для нормального функционирования роботам необходимы сложная система датчиков и определенный набор информации о клиенте. Использоваться же собранные данные могут далеко не всегда на благо потребителя. Домашний робот-помощник вообще представляет собой идеальное средство проникновения в частную жизнь.

Насколько легко люди могут дать неограниченный доступ к личной информации случайному роботу просто потому, что он выглядит мило и безобидно, демонстрирует робот Boxie — собиратель историй, разработанный специалистами Массачусетского технологического института. Маленькая картонная коробочка с нарисованной милой улыбкой, снабженная видеокамерой и системой сенсоров, была специально спроектирована для того, чтобы вызывать у людей доверие и заставлять делится личными историями — разумеется, исключительно для съемок документального фильма в рамках эксперимента.

РЕШЕНИЕ № 1.

Спокойствие и бдительность

Помните, роботы вам не друзья. Утешает, что ненавидеть они вас тоже не могут. По крайней мере, пока.

Справедливости ради следует заметить, что самую разнообразную личную информацию при желании можно добыть о любом человеке, использующем мобильный телефон, уже сейчас, без роботов-посредников. Персональные данные в социальных сетях вообще находятся в открытом доступе, и мы сами их туда поместили. Ничего, живем.

(adsbygoogle = window.adsbygoogle || []).push({});