Введение

Современные государства, как справедливо отмечает А.Н. Савенков, переживают кризис цивилизационного уровня¹, что оставляет за пределами зоны внимания органов публичной власти гарантии защиты прав и свобод человека. Это проявляется в сфере использования цифровых технологий, где баланс между скоростью технического прогресса и гарантиями соблюдения естественных прав пока не найден. Например, развитие искусственного интеллекта требует ограничения прав, закрепленных в законодательстве о персональных данных². При этом новые правовые гарантии защиты прав человека в цифровую эпоху в законодательстве не появляются. Подобное положение дел не допустимо, когда ограничению может подвергнуться право на жизнь и на охрану здоровья человека, что возможно при использовании систем искусственного интеллекта в отдельных сферах, например на транспорте или в медицине.

Случаи причинения физического вреда искусственным интеллектом давно перешли из раздела фантастики в правоприменительную практику. Например, в США рассматривалось дело по фату причинения смерти работнику производственным роботом. По данным истца агрегат, управляемый искусственным интеллектом, зашел в секцию, чего ранее не делал, и, застав пострадавшую врасплох, убил ее³. Подобные случаи не единичны, например, в судах зарубежных государств уже рассматриваются дела по факту ДТП с беспилотными транспортными средствами.

В ст. 2 Конвенции о защите прав человека и основных свобод⁴ закреплено, что право каждого лица на жизнь охраняется законом. Аналогичная норма закреплена в ст. 20 Конституции РФ. За ее нарушение Уголовным кодексом РФ установлена уголовная ответственность. В конструкции данной нормы законодатель исходит из наличия воли у лица, нарушившего закон. Если у субъекта нет свободы воли, например, у систем искусственного интеллекта, то подобные правовые гарантий на них не распространяются в полном объеме.

Сегодня отсутствует ответ на вопрос о юридической ответственности, когда право на жизнь нарушено искусственным интеллектом. В юриспруденции обсуждение этой проблемы концентрируется вокруг охранительной или карательной функции права. Эксперты предлагают варианты наложения наказания на пользователя или создателя, а также введение механизма страхования ответственности⁵. Подобные идеи, безусловно, заслуживают внимания, но правовых гарантий, способных предупредить причинение вреда жизни и здоровью человека, они не содержат.

Формирования института юридической ответственности в сфере использования систем искусственного интеллекта невозможно без установления границ дозволенного поведения искусственного интеллекта. Когда юристы касаются этой темы, то охрану жизни и здоровья человека они сводят к «законам робототехники», которые не имеют отношения к нормам позитивного права. Вопреки «законам», описанным А. Азимовым, в реальной действительности искусственный интеллект может принимать решение о причинении вреда здоровью человека в рамках своего алгоритма. Например, беспилотный автомобиль в экстренной ситуации сам решает: сбить ему пешехода или съехать с дороги и причинить вред пассажиру. Подобные дилеммы многовариантны, например, перед автомобилем несколько пешеходов, включая малолетних детей, а пассажир в салоне один.

Философско-этические вопросы в сфере цифровых технологий сегодня стоят особенно остро⁶. Зарубежные государства пытаются решить их актами рекомендательного характера: доклад Всемирной комиссии по этике научных знаний и технологий ЮНЕСКО⁷, Белая книга ЕС⁸. Однако этические императивы, заложенные в других национальных культурах, не могут быть безоговорочно приняты отечественной правовой системой.

Современное состояние правовой охраны жизни и здоровья человека

в процессе использования искусственного интеллекта

Использование искусственного интеллекта, как и других цифровых технологий, влечет за собой трансформацию правоотношений в границах двух антагонистических трендов: полный запрет и полная свобода⁹. Анализ актов органов публичной власти позволяет говорить, что в России превалирует тренд на формирование режима наибольшего благоприятствования для технологий искусственного интеллекта¹⁰. Это дало импульс развитию информационных систем в отдельных сферах, например, беспилотные транспортные средства вышли на дороги общего пользования без глобальной перестройки существующих правовых институтов. Это стало возможным благодаря экспериментальным правовым режимам в сфере цифровых инноваций¹¹.

Московская городская дума одобрила перечень из 140 улиц, для свободного движения беспилотных автомобилей¹². Программу экспериментального правового режима утвердило Правительство РФ¹³. Кроме этой «регуляторной песочницы», в г. Москве есть и другая, позволяющая ограничить на территории города федерального значения действие законодательства о персональных данных¹⁴. Этот правовой институт является нормативным барьером для создания систем искусственного интеллекта¹⁵. В рамках экспериментального правового режима медики апробировали технологию, что позволило создать несколько стандартов для использования систем искусственного интеллекта в медицинской сфере¹⁶. Эти стандарты создаются техническим комитетом по стандартизации № 164 «Искусственный интеллект» (далее – ТК 164), который является постоянно действующим национальным органом по стандартизации¹⁷, созданным в соответствии с ISO/IEC JTC 1/SC 42 “Artificial intelligence”¹⁸. Эффективность этих документов пока оценить затруднительно, так как системы искусственного интеллекта существуют в «регуляторных песочницах», где стандарты и иные нормативные правовые акты применяются не в полном объеме.

Появление «регуляторных песочниц» поддерживается не всегда, например, группа парламентариев внесла законопроект о моратории на создание экспериментального правового режима в городе Москве до 2025 года¹⁹. Вызывает сожаление, что законопроект направлен не на адаптацию норм права к изменениям в обществе, а на запрещение инновационной технологии, что нельзя оценить положительно. Справедливо отмечается, что «регуляторные песочницы» эффективны на первоначальной стадии развития цифровой технологии, но не заменяют комплексное изменение законодательства²⁰. Борьба с технологиями вместо их регулирования контрпродуктивна, а при причинении вреда жизни или здоровью человека, который, безусловно, может произойти, станет проблемой для развития искусственного интеллекта в России. Представляется, что юриспруденция может решить данную проблему путем установления нормативных требований к создателю об обязательном формировании встроенных протоколов допустимого поведения искусственного интеллекта.

Методология исследования правовой охраны жизни и здоровья человека в процессе использования искусственного интеллекта

Методологию юридической науки составляет совокупность правил и принципов познания, определяющих рациональный путь движения к достоверным знаниям о предмете и объекте исследования²¹. Выбор конкретного метода и последовательность их использования определяется исследователем, исходя из особенностей анализируемых общественных отношений и целей, к достижению которых он стремиться. В информационном праве целесообразна комбинаций методов исследования²². В настоящей статье использованы следующие из них: 1) метод сбора эмпирической информации, реализованный через интервьюирование экспертного сообщества, выделение норм права, относящихся к тематике исследования, поиска и толкования правоприменительных актов, юридических казусов, неофициальной правовой информации; 2) метод обобщения, реализованный через сравнительно-правовой анализ источников права и проектов нормативных правовых актов, моделирование общественных отношений во взаимосвязи с существующей правовой системой; 3) догматический метод, реализованный через анализ правовых концепций, имеющих значение для построения правовой модели, обеспечивающей охрану жизни и здоровья человека в процессе использования искусственного интеллекта; 4) метод системных исследований, реализованный путем построения системно-структурных категорий в сфере регулирования искусственного интеллекта, а также через восхождение от абстрактного этико-правового регулятора к общественным отношениям, требующим нормативной регламентации.

Центральным местом в методологии исследования является использование догматических методов, поскольку в России концепция правовой охраны жизни и здоровья человека в процессе использования искусственного интеллекта в стадии формирования.

Важно отметить, что настоящая статья содержит субъективное восприятие этичности регулирования новых общественных отношений, которое не может рассматриваться как моральный императив. Следовательно, статья не содержит единственного варианта правовой регламентации, но несет аксиологическое значение, что обеспечивает метод социально-гуманитарной рациональности. Под социально-гуманитарной рациональностью понимается совокупность требований, которым должно удовлетворять социально-гуманитарное знание: социально-ценностная объектность, рефлексивность, системность, культурологическая обоснованность, адаптивная полезность, открытость к критике, возможность изменения²³. Познание закономерных связей и корреляций между защитой прав человека и технологиями искусственного интеллекта сложный процесс с множеством неизвестных.

Понятийный аппарат регулирования использования искусственного интеллекта

Важно отметить, что публикации по вопросам регулирования использования искусственного интеллекта²⁴, не решили проблему понятийного аппарата, которую эксперты называют ключевой задачей для данного правового института²⁵. Более того, у представителей других отраслей права произошло смешивание понятия робот и искусственный интеллект²⁶, что недопустимо и ведет к логическим ошибкам.

В информационном праве выделено несколько отличий робота от искусственного интеллекта²⁷. Самый подробный перечень содержится в проекте Конвенции по робототехнике и искусственному интеллекту²⁸. Робот – исполнительный механизм, программируемый по двум или более степеням подвижности, обладающий определенной степенью автономности и способный перемещаться во внешней среде с целью выполнения задач по назначению²⁹. Аналогичный термин используется в международных стандартах³⁰. Из анализа существующих исследований и указанных документов можно выделить правовую аксиому «искусственный интеллект является необязательным признаком робота, а одной из форм управления им».

Искусственный интеллект определяется как комплекс технологических решений, позволяющих имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека³¹. Подобное определение нельзя назвать бесспорным, а если исходить из его буквального толкования, то к данной цифровой технологии можно отнести многозадачный калькулятор, также имитирующий когнитивный процесс.

Не вносят ясность в терминологии стандарты, которых ТК 164 принял более 20³². Например, в ГОСТ Р 59895-2021³³ содержится термин, созвучный с вышеописанным, а в предварительном национальном стандарте ПНСТ 553-2021, действовавшим с 01.03.2022 г. по 01.03.2023 г., даны иные определения искусственному интеллекту: способность приобретать, обрабатывать, создавать и применять знания, определенные в форме модели, для выполнения одной или нескольких поставленных задач; дисциплина о создании и изучении искусственного интеллекта³⁴.

Учитывая невозможность использования столь широких и разнообразных дефиниций, в праве одновременно предлагается сформировать юридически значимое определение. Для этого в процессе исследования выделены признаки искусственного интеллекта, имеющие первоочередное значение для права.

1. Система искусственного интеллекта - это всегда программа, но не всегда физическая технология. Информационная система может управлять беспилотным автомобилем, а может решать аналитические задачи, подсказывая диагноз врачу. При этом в обоих случаях технология признается искусственным интеллектом и требует специальной правовой регламентации.

2. Система искусственного интеллекта - это информационная система, действующая по алгоритму, созданному не человеком. Если код системы создан человеком, то специальный правовой режим для нее не требуется. Если информационная система создана другой информационной системой, то алгоритм не может быть полностью понятен человеку, что создает угрозу его безопасности в процессе эксплуатации технологии.

3. Система искусственного интеллекта - это информационная система, формируемая на основе анализа большого объема данных, качество которых влияет на корректность её алгоритма. Если систему учить писать судебные решения на основе судебных актов, принятых с нарушением закона, то алгоритм будет писать решения суда с нарушением норм права.

4. Система искусственного интеллекта - это информационная система, которая может совершенствоваться в процессе работы (самообучаться). Особенностью систем искусственного интеллекта является, то, что алгоритмы меняются в процессе эксплуатации, а, значит, его поведение не зависит от воли создателя или пользователя. Это создает угрозы экзистенциального характера.

На основании этих ключевых признаков предлагается следующее определение искусственному интеллекту - это информационная система, алгоритм работы которой создан не человеком, а путем самообучения, которое может продолжаться постоянно. Вместе с тем это делает ее работу полностью не прогнозируемой пользователем и создателем.

Классификация систем искусственного интеллекта для целей правовой регламентации

Учитывая тот факт, что используемое в нормативных актах определение искусственного интеллекта, а также дефиниция, предложенная в настоящей статье, включает множество видов информационных систем, целесообразно их классифицировать. Варианты классификации технологии в нормативных правых актах уже существуют. Например, Минэкономразвития России утвердило перечень технологий, которые можно отнести к искусственному интеллекту³⁵. Указанный государственный орган публичной власти разделяет их по трем основаниям(критериям: а) по базовой технологии (компьютерное зрение, обработка естественного языка, распознавание и синтез речи, интеллектуальная поддержка принятия решений, перспективные методы искусственного интеллекта); б) по методу работы (автономное решение различных задач, автоматический дизайн физических объектов, автоматическое машинное обучение, алгоритмы решения задач на основе данных с частичной разметкой и (или) незначительных объемов данных, обработка информации на основе новых типов вычислительных систем, интерпретируемая обработка данных и др.); в) по поставленным задачам, которых регулятор выделил 88 (дедукция и идентификация объектов, задачи диалогового интеллекта, предиктивный и прескриптивный анализ и др.).

Однако полагаем, что Перечень нельзя использовать для модельного правового регулирования, так как он не отражает общественную опасность разных технологий и их ключевые признаки. При использовании данной классификации можно только установить единый правовой режим для всех информационных систем, что может значительно замедлить развитие технологии. Более перспективной, с точки зрения юридической техники, является классификация, приведенная в документах ТК 164, где предложено 12 оснований деления, в том числе по методам достижения интеграции и интероперабельности, по управлению знаниями, моделям и методам обучения, по функциям контура управления³⁶. Однако использовать эту классификацию для модельного правового регулирования представляется весьма затруднительным из-за её высокой технической детализации. Анализ указанных документов и эмпирического материала позволил прийти к выводу, что для охраны жизни и здоровья человека в процессе использования искусственного интеллекта достаточно классификации по двум основаниям: изменяемости алгоритма, т.е. возможности корректировки машинного кода программой без участия человека в процессе эксплуатации; автономности системы, т.е. возможности программы воздействовать на физическую реальность без санкционирования ее действий человеком.

Эти юридически значимые признаки позволяют разделить системы искусственного интеллекта на четыре группы:

1. по способу изменяемости: искусственный интеллект с «пассивным» алгоритмом – предназначен для достижения поставленной человеком цели, не изменяемым в процессе работы; искусственный интеллект с «активным» алгоритмом - предназначен для достижения поставленной человеком цели, меняющимся в процессе работы.
2. по степени автономности: искусственный интеллект с полуавтономным режимом работы – влияет на реальную действительность опосредовано через санкционирование его действий человеком; искусственный интеллект с автономным режимом работы – влияет на реальную действительность без одобрения или санкционирования его действий человеком.

Предложенная классификации позволяет создать несколько моделей правового регулированию для охраны жизни и здоровья человека в процессе использования искусственного интеллекта.

Модели правовой регламентация искусственного интеллекта для охраны жизни и здоровья человека

Анализ эмпирического материала позволяет сформулировать вывод о том, что регулирование всех общественных отношений, возникающих в процессе использования искусственного интеллекта, затруднительно. Одновременно некоторые казусы требуют правовой регламентации в силу их влияния на жизнь и здоровье человека. Их условно можно разделить на две группы.

1. Причинение вреда жизни и здоровью человека системой искусственного интеллекта, не имеющей прямого воздействия на объект физического мира. Примером таких ситуаций являются случаи неверного решения выданного информационной системой пользователю, принимающему окончательное решение.

2. Причинение вреда жизни и здоровью человека системой искусственного интеллекта, управляющего объектом физической реальности. Примером таких ситуаций может быть ДТП с участием беспилотного транспортного средства или несчастный случай, спровоцированный производственным роботом.

Для создания правовых механизмов защиты прав человека от подобных ситуаций, учитывая предложенную в данной статье классификацию систем искусственного интеллекта, предлагается создание нескольких правовых моделей его регулирования.

1. Модель «мягкого» права для информационных систем, с «пассивным» и «активным» алгоритмом полуавтономной работы. Для охраны жизни и здоровья человека при использовании подобных систем целесообразно исходить из юридической ответственности лица, эксплуатирующего систему, если не доказано иное (prima facie). При этом ответственность в порядке суброгации может перейти на создателя, если он не довел достоверную информацию о ключевых показателях работы системы до пользователя.

В данной модели предполагается создание минимальной правовой регламентации с преобладанием элементов саморегулирования. Представляется, что существующих правовых институтов (сертификации и юридической ответственности) достаточно для охраны жизни и здоровья человека в процессе использования подобных систем искусственного интеллекта.

2. Модель машиночитаемого права для информационных систем с «пассивным» алгоритмом и автономным режимом работы. Примером таких технологий являются высоко автономные транспортные средства. Модель предполагает использование императивных правовых норм, направленных на регламентацию деятельности создателей информационных систем. Предполагается установление для них обязанности по трансформированию права в нормы-кода, ограничивающие протоколы искусственного интеллекта.

3. Модель правового моратория для информационных систем с «активным» алгоритмом и автономным режимом работы. Полагаем, что подобные информационные системы должны быть ограничены в обороте как сложно контролируемый источник повышенной опасности. Информационная система, отвечающая подобным характеристикам, является источником экзистенциальной угрозы, поэтому возможность ее применения в обычной жизни в условиях незрелости технологии высокого риска для жизни и здоровья человека.

Охрана жизни и здоровья человека в процессе использования искусственного интеллекта в рамках модели машиночитаемого права

В Послании Президента РФ Федеральному Собранию Российской Федерации 2020 г. отмечалось, что «скорость технологических изменений в мире многократно возрастает, и мы должны создать собственные технологии и стандарты по тем направлениям, которые определяют будущее. Речь прежде всего об искусственном интеллекте …»³⁷. Аналогичная позиция закреплена в стратегических документах, например, в Национальной стратегии развития искусственного интеллекта на период до 2030 г.³⁸, Перечне поручений по итогам конференции по искусственному интеллекту³⁹ и т.д. Однако стандарты, гарантирующие охрану жизни и здоровья человека в процессе использования искусственного интеллекта, не появились. Следовательно, нет обязательных требований, которым должна следовать информационная система, например, не допускать причинение вреда жизни и здоровью человека.

Исследование, проведенное нами в 2021 г., показало, что большинство отечественных юристов указывают на наличие в законе запрета искусственному интеллекту убить человека⁴⁰. Однако участники исследования затруднились сказать, в каком нормативном правовом акте он содержится. Некоторые специалисты в области конституционного права указывали на Конституцию РФ, закрепляющую право каждого на жизнь. Другие - оперировали нормами Уголовного кодекса РФ. Одновременно все соглашались, что искусственный интеллект субъектом права или преступления быть не может. Для разрешения правовой коллизии в научной литературе предлагается считать субъектом преступления создателя системы искусственного интеллекта или пользователя⁴¹. Однако интервьюируемые, придерживающиеся схожей точки зрения, не смогли предложить решение, если создателем системы искусственного интеллекта является другая программа или искусственный интеллект самостоятельно меняет алгоритм своей работы самосовершенствуясь (самообучаясь).

Затруднение интервьюированных вполне понятно. Включить в нормативные правовые акты запрет искусственному интеллекту убить человека затруднительно. Этот императив будет похож на закон, запрещающий дикому животному причинять вред здоровью человека. Для животного позитивного права не существует, как и для искусственного интеллекта. Первое действует на основе инстинктов, заложенных природой, а второй на основании алгоритмов, написанных другой программой. Разрешить эту проблему способно машиночитаемое право, под которым в юриспруденции понимается набор правовых норм на формальном языке (в том числе языке программирования, языке разметки), а инструменты применения таких норм в виде необходимых информационных систем и программного обеспечения⁴². Хотя в информационном праве не анализировались все возможности использования онтологических моделей машинного права для ограничения свободы действия искусственного интеллекта⁴³, но идея кода как источника права (lex informatica) уже положительно оценена многими авторами⁴⁴.

Важно отметить, что пока отечественная юриспруденция не готова к полноценному использованию данного правового средства для охраны жизни и здоровья человека при использовании искусственного интеллекта. Например, при эксплуатации беспилотных транспортных средств обществу необходимо выбрать, должен ли искусственный интеллект сбивать пешехода, нарушающего ПДД, или, действуя в рамках теории утилитаризма, выбирать иную траекторию движения.

Россия не единственная страна, развивающая данную технологию, а следовательно, может возникнуть желание у отечественных правоприменителей использовать зарубежный опыт. Данное решение будет ошибочным, так как этико-правовая концепция должного поведения искусственного интеллекта должна основываться на культурном коде нации, а не компаративистских исследованиях. Для формирования этики использования искусственного интеллекта целесообразно создать платформу для исследования мнения общества. Подобные аналитические проекты проводятся и в других государствах. Например, в США собирают мнения о допустимых действиях беспилотного автомобиля при приучении вреда жизни и здоровью человека в экстремальных ситуациях⁴⁵. Так, Массачусетский технологический институт предложил людям выбрать приемлемый протокол для систем искусственного интеллекта в следующей ситуации - «у автомобиля отказали тормоза и перед ним выбор: сбить переходящих дорогу пятерых пожилых людей или свернуть в сторону, задавив женщину с коляской». Несмотря на сложность выбора, нормы-коды, созданные по результатам сбора мнений о подобные ситуациях, могут стать единственной правовой гарантией охраны жизни и здоровья человека при использовании искусственного интеллекта.

Заключение

Обобщая изложенное, можно сформулировать несколько выводов.

В Российской Федерации уже используются технологии искусственного интеллекта, однако нормативные акты, регулирующие этот процесс, создают терминологическую путаницу и правовые коллизии⁴⁶, что препятствует развитию цифровой технологии⁴⁷ и ведет к необоснованным угрозам жизни и здоровью человека.

Процесс эволюции общественных отношений и развитие цифровых технологий заставляет пересмотреть конструкции многих правовых институтов⁴⁸. Среди них право на жизнь, которое не подвергалось трансформации длительный период времени.

Онтологические вопросы: «Запрещается ли искусственному интеллекту причинить вред человеку?», «Если искусственный интеллект должен выбирать, кому из людей причинить вред, то чем он должен руководствоваться?» пока остаются без должного осмысления. Если отечественное право не установит, что должен делать искусственный интеллект в той или иной ситуации, то при возникновении неблагоприятных кейсов затруднительно будет говорить о нарушении технологией или создателем действующего законодательства.

Представляется целесообразным инициировать дискуссию с фиксированием общественного мнения по этико-правовым аспектам использования цифровой технологии. Результатом ее должны стать правовые императивы, обязательные для создателя искусственного интеллекта. Императивы, используя механизмы машиночитаемого права, должны быть включены в программный код информационных систем, эксплуатируемых в Российской Федерации. Это предложение может стать фундаментом правовой охраны жизни и здоровья человека в процессе использования данной цифровой технологии.