Искусственный интеллект. Этика и право - Елена Сергеевна Ларина

либо в частной жизни раба.

Ряд американских правоведов предложили рассматривать ИИ как наемного работника и предоставлять ему юридическое лицо, а также обязанность проявлять должную осторожность. При этом, строгая ответственность по-прежнему будет возлагаться на владельца ИИ, но сам по себе ИИ, имеющий юридическое лицо, может быть запрошен для компенсации ущерба, в том числе реквизирован в пользу лица, которому был нанесен ущерб. Фактически это будет своего рода передача раба от одного рабовладельца другому в счет покрытия ущерба.

Этот американский подход связан с успехами в сверхбыстром глубинном обучении. Часть современных программистов и математиков полагают, что уже в ближайшие три-пять лет ИИ будет способен сам себе писать программы, а также реплицировать усовершенствование модели себя на автоматизированных предприятиях. В этом случае вообще не понятно, в какой роли выступает человек – собственник ИИ, и к кому предъявлять требования компенсации за нанесенный ущерб. В этой связи не вызывает удивления предложение, поступившее от Нидерландов в Европейский парламент, которое предусматривает рассмотрение семейство роботов, подключенных к единому мощному ИИ даже не как наемных работников, а как прямых юридических лиц, несущих неограниченную ответственность без связи с разработчиком.

§ 4. Действующее законодательство ЕС

Нынешние правила ЕС об ответственности за системы ИИ в основном базируются на двух законодательных актах: Директиве об ответственности за качество продукции и Директиве об ответственности за механизмы. Эти директивы предусматривают, что если устройство причиняет вред человеку или его частной собственности, то производитель несет ответственность за выплату компенсации.

Недавняя оценка показала, что директивы по-прежнему обеспечивают хороший баланс между защитой прав потребителей и поощрением инноваций. При этом ЕС пообещал, что в течение 2019 г. будут опубликованы толкования директив, где будут обновлены и привязаны к инновациям такие понятия, как «дефект», «продукт», «производитель», «узлы и детали», «программные» и «аппаратные». При этом в толкованиях предусматривается, можно ли включить использование «ИИ как услуга» в сферах действия директив, а также как интерпретировать разницу в ответственности изготовителей харда и софта.

В последнее время ЕС опубликовал Директиву по машинному оборудованию. Она устанавливает общие требования по охране труда и технике безопасности для роботов и 3D принтеров. Это – хороший пример, как совершенствуется европейское законодательство в наиболее инновационных сферах.

Директива по машинному оборудованию является законодательным актом, который предусматривает создание «нормативных песочниц», а также комплексное регулирование, включающее общеевропейское и страновое юридическое регулирование, саморегулирование ассоциаций производителей и общественный контроль со стороны гражданского общества.

Будущий режим ответственности использования ИИ должен быть разработан в сочетании с совершенствованием системы страхования. Предполагая, что всегда можно отследить ответственное лицо в автоматизированном процессе, будущие руководящие принципы политики могут потребовать, чтобы компания, разрабатывающая, внедряющая и продающая ИИ, представляла регулирующим органам финансовые документы, подтверждающие ее способность имущественно реагировать на любые потенциальные обязательства, возникающие в ходе эксплуатации ее техники. В случае если это невозможно, пользователи должны знать и иметь возможность либо отказаться от такого использования, либо обратиться к страховщикам, которые самостоятельно принимают решение о страховании подобного рода изделий.

При рассмотрении правовых основ регулирования, необходимо иметь в виду не только указанные выше директивы, но и множество отраслевых нормативных актов, регламентирующих стандарты, технические регламенты и юридические взаимоотношения. Например, страховые компании и банки уже распространяют некоторые требования о раскрытии информации, которые сложились в высокотехнологичных отраслях и на ИИ. Хорошим примером этого является Директива о распределении страхования от 1 октября 2018 г.

В соответствии с Директивой страховые компании смогут принимать на страхование лишь те сложные технические средства, производители которых предоставляют утвержденный перечень информации о техническом средстве, его компонентах, а также возможных выявленных, в том числе в ходе испытаний и практической эксплуатации уязвимостях, порождающих определенные риски.

Первопроходцем в деле юридического регулирования робототехники и ИИ стала Британия. В июле 2018 г. первой в мире она приняла Закон об автоматизированных электрических транспортных средствах, включая беспилотные автомобили, суда, а также дроны. Закон 2018 г. предусматривает подход «легкого прикосновения», и как ожидается, что предусмотрено структурой закона будет обновляться по мере развития технологий и инфраструктуры. Это – первый законодательный акт во всем мире, который построен по принципу легкого прикосновения. Т. е. в нем предусмотрены лишь основные понятия и термины в этой сфере и общая конструкция, связанная с правами, обязанностями и ответственностью производителей, эксплуатантов автоматизированных транспортных средств, а также конечных потребителей. Закон построен таким образом, чтобы по мере развития робототехники он мог в упрощенном порядке развиваться и расширяться сообразно динамике техники и технологий.

Указанный закон является первым законодательным актом во всем мире, в котором изложена формализованная правовая модель страхования и ответственности за робомобили – автоматические транспортные средства. Поскольку это абсолютная юридическая новация, учреждения ЕС в настоящее время проявляют определенную осторожность, называя его моделью. Что же касается Великобритании, то до конца 2019 г. будет принят дополнительный подзаконный акт, регламентирующий вступление в силу указанного закона и особенности его трактовки.

Что касается содержания закона, то необходимо отметить ряд обстоятельств. Закон предоставляет страховщикам возможность ограничить свою ответственность в соответствии с разделом 2 (1) перед страхователями, и в определенных обстоятельствах перед третьими лицами, когда несчастные случаи были вызваны отказом застрахованного лица, либо с ведома застрахованного лица установить критические для безопасности обновления программного обеспечения. Иными словами, если эксплуатант беспилотного автомобиля не установил вовремя обновление, предоставленное производителем софта к машине, и по этой причине произошла авария, то всю ответственность будет нести эксплуатант, а не производитель автоматизированного средства.

Аналогичным образом несчастные случаи, вызванные самостоятельным изменением программного обеспечения эксплуатантом, запрещенные условиями полиса страхования, также могут быть исключены из страхового покрытия. Тем не менее, страховщики по-прежнему будут нести строгую ответственность за выплату компенсаций большинству третьих лиц, пострадавших в результате несчастных случаев, к которым применяется закон 2018 г.

Британский закон создает важнейший прецедент. Он предусматривает основополагающую роль страховщиков в контроле за программно-аппаратным обеспечением автономных транспортных средств. Соответственно, со временем страховщики будут оказывать давление на поставщиков ИИ, чтобы перейти к определенному уровню стандартизации и унификации. Вполне очевидно, что страховщики из компаний, рассчитывающих риски, получающих и отдающих деньги превратятся в компании по контролю за техникой безопасности автоматизированных транспортных средств, а затем и иной робототехники.

Закон также устанавливает законное право суброгации для страховщиков – владельцев полностью или частично возместить свои убытки за счет другой стороны, ответственной, в конечном счете, за произошедший несчастный случай. Что касается взаимодействия между человеком и машиной, в недавно принятом правительственном Кодексе испытания автономных транспортных средств разъясняется, что водитель или оператор роботомобиля и любого другого автоматизированного средства, типа дрона или судна, должен обязательно иметь возможность взять под свой контроль