Везде
Правовые аспекты онтологии искусственного интеллекта
Оглавление
Аннотация Оценить Содержание публикации
Библиография Комментарии
Поделиться
QR
Метрика
Правовые аспекты онтологии искусственного интеллекта
Аннотация
Код статьи
S102694520012531-5-1
DOI
10.31857/S102694520012531-5
Тип публикации
Статья
Статус публикации
Опубликовано
Авторы
Попова Анна Владиславовна 
ORCID: 0000-0002-6019-8878
Аффилиация: Финансовый университет при Правительстве Российской Федерации
Адрес: Российская Федерация, Москва
Выпуск
Номер 11
Страницы
115-127
Аннотация

В статье проводится анализ онтологических подходов к исследованию искусственного интеллекта. На основе проведенного исследования автором сформулирован вывод о необходимости новых подходов к определению места и роли различных объектов робототехники, нейронных систем, искусственного интеллекта в системе права и системе законодательства. Правовая онтология является обязательной для решения задачи претворения в жизнь национальной программы по развитию искусственного интеллекта, его правового регулирования. Сформулирован вывод о возможности определения искусственного интеллекта как квазисубъекта права в виде электронного лица.

Ключевые слова
онтология права, искусственный интеллект, субъект права, объект права, роботы, нейронные сети, система права, система законодательства
Классификатор
Получено
22.07.2020
Дата публикации
03.12.2020
Всего подписок
16
Всего просмотров
2416
Оценка читателей
0.0 (0 голосов)
Цитировать   Скачать pdf Скачать JATS
1 Онтология представляет собой часть мировоззрения человека, его субъективное представление об объективной реальности как единого целостного мироздания. Являясь частью философского знания об окружающей действительности (бытии), онтология своим предметом может иметь абсолютно любое явление материального и идеального мира. Как известно, онтология зародилась в античную эпоху и заключала в себе «учение о бытии», хотя сам термин «онтология» был введен в научный оборот только в VII в., когда развитие науки, появление ее новых направлений и, как следствие, развитие технологий требовали научного осмысления и объяснения.
2 В XVIII–XIX вв. с онтологических позиций стали рассматриваться не только материальные объекты, но и такие идеальные конструкции, как государство, право, сознание, культура и иные социальные институты. Вследствие этого уже в ХХ в. развиваются онтология права, онтология сознания, онтология информатики, онтология артефактов, онтология цифровых моделей, онтология виртуальной реальности и т.д. При этом следует заметить, что сама философия и онтология как ее основной структурный элемент не столько «объясняет» существующую действительность, сколько пытается прогностически определить будущие направления ее развития как в материальной, так и в идеальной форме1. Возникновение электронно-виртуальной реальности, как принципиально «нового типа искусственно созданной виртуальной реальности»2 во второй половине XX в. становится предметом осмысления большого числа онтологических исследований. Как отмечает Т.Д. Стерледева, онтология начинает менять свое содержательное значение и заключает в себе, применительно к своему новому объекту, «определенный тип видения бытия... и теоретическую модель такого видения»3, отличительными признаками которой являются:
1. См. подр.: Гартман Н. К основоположению онтологии. СПб., 2003; Хайдеггер М. Бытие и время. М., 2013.

2. Стерледева Т.Д. Онтология электронно-виртуальной реальности // Исторические, философские, политические и юридические науки, культурология и искусствоведение. Вопросы теории и практики. 2017. № 1 (75) C. 190.

3. См.: там же. С. 191.
3 1) определение электронно-виртуальной реальности как особого типа реальности, созданного человеческим (естественным) интеллектом для человека, в отличие от материальной реальности, созданной Природой (Богом, Абсолютной идеей, Вселенной, Космосом) для всех без исключения земных существ. Идеальная же реальность признается, в большинстве своем, продуктом сознания только человека4, который создает свой собственный искусственный мир, в том числе и в киберпространстве5;
4. Анализ иных подходов к решению этого вопроса содержится в научных статьях, напр.: Попова А.В., Абрамова М.Г. Природа природы и онтология человека: к вопросу о новых субъектах права // Росс. журнал правовых исследований. 2017. № 1. С. 54 - 62; Их же. Технологическая сингулярность как точка невозврата: назад в будущее? // Росс. журнал правовых исследований. 2018. № 3. С. 39 - 47.

5. См., напр.: Шкляр Т.Л., Попова А.В. Гибридная реальность: психологический и правовой аспект [Gibridnaya realnosty: psikhologicheskiy i pravovoy aspekt] // Креативная экономика. Т. 12. 2018. № 9. С. 1331 - 1344. DOI: 10/18334/ce.12.9.39330.
4 2) существовавшее до второй половины ХХ в. онтологическое знание окружающей человека действительности (природного мира) заключалось в исследовании и осмыслении явлений, создаваемых и управляемых только Природой вне зависимости от воли и желаний самого человеческого общества (коллективного сознания) и каждой отдельной личности (индивидуального сознания) – пожаров, наводнений, извержений вулканов, землетрясений, эпидемий болезней и др.). Онтология же виртуальной (гибридной) реальности не просто зависит от человека, но и управляется им, она напрямую ориентирована на его интересы и запросы, в т.ч. и в потребительской материальной сфере;
5 3) в материальном мире существует только трехмерное пространство (длина, ширина и высота), в то время как в киберпространстве количество измерений создаваемого пространства бесконечно и зависит лишь от мощности соответствующего компьютера (киберфизической системы, нейронной сети, искусственного интеллекта) и желаний самого человека в целях достижения им наибольшего комфортного состояния в определенный период времени;
6 4) онтология природного мира основана на трактовке темпоральности6 в виде единственно возможного измерения – настоящего и будущего течения событий в то время, как движение назад, в прошлое невозможно. В электронно-виртуальной реальности течение времени может быть различным, т.к. существует возможность моделирования типа времени с заранее заданными характеристиками7.
6. См., напр.: Догадайло Е.Ю. Время и право: теоретико-правовое исследование: дис. ... д-ра юрид. наук. М., 2013.

7. Стерледева Т.Д. Указ. соч. С. 191.
7 Таким образом, современный человек одновременно существует по крайней мере в двух ипостасях – как реальный материальный объект, наделенный сознанием в природном (реальном) мире, и как аватар, виртуальная (электронная) личность, обладающая возможностью выбора внешности, возраста, возможностей в создаваемых им самим обстоятельствах жизни) в киберпространстве, созданном исключительно сознанием самого индивида, исходя из его собственных желаний и предпочтений, но обязательно при помощи искусственного интеллекта, коим могут быть наделены различные технологические объекты. Как указывает В.А. Лекторский, в эпоху развития наноиндустрии человек начинает одновременно существовать «в разных мирах: не только в мире физических и биологических процессов», но и… в мире искусственном»8.
8. Лекторский В.А. Возможны ли науки о человеке? // Вопросы философии. 2015. № 5. С. 6.
8 Поэтому на современном этапе развития информационных технологий особое значение приобретает онтология искусственного интеллекта как отдельное направление междисциплинарных исследований, представляющее собой широкую область научных исследований, включающую комплекс компьютерных наук, на основе которых создаются информационные технологии, инженерия знаний, обработка естественного языка, представление знаний, интеллектуальная интеграция информации, извлечение информации и управление знанием, а также нано-био-инфо-конго (NBIC) технологии. Основополагающее значение в этой связи приобретают вопросы исследования самой возможности познания, его механизма в отношении искусственного интеллекта, соотношения его с естественным интеллектом, возможности включения их в сферу социальных отношений, их правовое регулирование.
9 Решение всех этих проблем зависит от ответов на вопросы: обладают ли современные технологические артефаты (киберфизические системы, роботы, объекты робототехники, нейронные сети) сознанием и способностью к мыслительной деятельности, сходными с естественным (природным) интеллектом человека?; возможно ли создать искусственный интеллект идентичный, а то и превосходящий человеческое сознание по аналогии со строением человеческого мозга и процессом мыслительной деятельности? Искусственный интеллект (интеллектуальные системы) обладает значительными признаками созидательной деятельности известны музыкальные произведения, созданные киберфизическими системами, художественные полотна и др. Нейронные сети, андроиды, гиноиды и гуманоиды имеют способности к самообучению, поиску и анализу необходимой информации для рационально-адекватного и оптимального решения с «просчитыванием» всех возможных рисков.
10 По аналогии с трактовкой человека как биосоциального существа, в котором сознание (идеальное) и тело (материальное) представляет собой неразрывную дихотомию, в науке и практике предпринимаются попытки создания единого виртуального «человека» (интеллектуальной системы), в котором искусственный интеллект будет помещен в тело робота или отдельный объект робототехники. Такие системы должны, по мнению Д.А. Поспелова, обладать тремя функциями, выражаемыми в способности:
11 а) предоставлять и обрабатывать знания, а также к самообучению;
12 б) рассуждать, «выдавая» логические умозаключения, являющиеся началом нового обобщенное знания, используя потенциал которого становится возможным рациональное планирование дальнейшей деятельности;
13 в) к взаимообщению между интеллектуальными системами и человеком на естественном языке; получать информацию об окружающем мире, основываясь прежде всего на восприятии через звук и зрение9.
9. Цит. по: Романов П.С. Основы искусственного интеллекта. Коломна, 2010. С. 11, 12.
14 В начале XXI в. в научной литературе было определено, что создаваемые технологии на основе искусственного интеллекта должны: «думать» рационально и действовать рационально как люди10, т.е. искусственный интеллект определяется как рационально действующий «агент», обладающий способностью самостоятельно разрабатывать алгоритмы поведения, но не наделенный понятием человечности, которая является обязательной для естественного интеллекта. Электронная виртуальная реальность и искусственный интеллект в соответствии с абиотической теорией А.И. Опарина возникают примерно по той же схеме, что и зарождение жизни на земле из «протожизненных элементов-коацерватов»11, что дает возможность их регулировать так же, как и сферы жизнедеятельности социума.
10. См.: Рассел С., Норвиг П. Искусственный интеллект: современный подход / пер. с англ. 2-е изд. М., 2006. С. 35.

11. Опарин А.И. Жизнь, ее природа, происхождение и развитие. 2-е изд., доп. М., 1968. URL: >>>> (дата обращения: 13.07.2019).
15 Отдельной, пока не разрешенной проблемой являются морально-этические компоненты использования искусственного интеллекта. Однако попытки смоделировать этику уже существуют. Так, система искусственного интеллекта “Scheherazade system” уже сейчас способна генерировались тексты из краудсорсинговой платформы Amazon Mechanical Turk по признаку семантической схожести. Для реализации поставленной цели (получение лекарства в аптеке) самообучаемая система анализирует по хронологическому принципу все события, с какими люди могут столкнуться в реальной действительности. При этом в алгоритм искусственного интеллекта был заложен принцип характерности обычного правомерного поведения человека, поэтому интерфейс выбирал не правонарушение (кражу лекарства), хотя это и было самым рациональным решением, а обычный поступок, основанный на моральных догмах12.
12. См.: Максимов В.Ю., Клышинский Э.С., Антонов Н.В. Проблема понимания в системах искусственного интеллекта // Новые информационные технологии в автоматизированных системах. 2016. № 19. С. 44.
16 Однако, на наш взгляд, чисто этическим такое поведение вряд ли можно назвать, все-таки морально-этические нормы не всегда могут соответствовать определенным алгоритмам, их побудительной причиной могут служить определенные чувства и ассоциации. Как отмечает А. Незнамов, «машины никогда не будут людьми, а у технологий нет этики. Поэтому человек должен остаться человеком»13. Г. Леонгардом был предложен короткий манифест цифровой этики, в соответствии с которым «человек имеет право:
13. Незнамов А. Рец. на кн.: Г. Леонгард. Технологии против человека // Дайджест Робоправо. 2019. Март. Вып. 13. С. 89.
17 1. Оставаться естественным, то есть биологическим. Автор предупреждает, что наше право работать, пользоваться госуслугами и вообще вести нормальную жизнедеятельность не должно быть обусловлено размещением каких-либо устройств на теле, имплантацией чипов и т.д.
18 2. Быть медленнее технологий. Нельзя наказывать людей за несоответствие их производительности мощности алгоритмов. Естественные биологические ограничения нужно уважать.
19 3. Не быть постоянно на связи, что уже сегодня становится элементом роскоши.
20 4. Быть анонимным.
21 5. Нанимать или привлекать людей вместо машин; необходимо налоговое стимулирование компаний, нанимающих людей, и дополнительные налоги на автоматизацию – в будущем»14.
14. Леонгард Г. Технологии против человека / пер. с англ. А.О. Юркова, М.Ю. Килина, Т.Ю. Глазкова; предисл. М. Федорова. М., 2018. С. 87, 88.
22 Широкое использование искусственного интеллекта приводит к созданию нейрокомпьютерного интерфейса, основанного на непосредственном контакте человеческого и компьютерного сознания, результатом чего могут стать нейронные изменения в способностях человека осуществлять мозговую деятельность на морально-нравственной оценке человеком происходящих событий, что, в свою очередь, может сказаться на дальнейшем развитии политической и правовой системах общества – может привести к изменению трактовок таких основополагающих дефиниций, как демократия, содержание прав и свобод человека, равенство, справедливость, религиозные воззрения и др.15
15. См.: Fukuyama F. The World's Most Dangerous Ideas: Transhumanism // Foreign Policy. 2004. No. 144. P. 42, 43.
23 Попытки разрешения таких проблем были предприняты еще в 1942 г., когда А. Азимов вводит в оборот термин «робот» и предлагает регулировать взаимодействие между роботами и людьми с помощью трех законов робототехники, в соответствии с которыми устанавливается безоговорочный приоритет интересов человека-создателя перед любыми его техническими творениями. Позднее им был сформулирован т.н. «нулевой закон»: Робот не может причинять вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред16. По мнению фантаста, эти законы должны быть заложены изначально в программу искусственного интеллекта, как аналог нравственных ценностей, «категорического императива» для индивида.
16. См.: Asimov I. Foundation and Earth. New York, 2004. P. 476.
24 Особой проблемой, как уже отмечалось, является нравственная характеристика процесса использования искусственного интеллекта индивидом при принятии важных решений, которые могут касаться интересов и главное - безопасности людей. Дж. Вейценбаум акцентирует внимание даже на простой возможности принятия решения человеком только на основании предложенной искусственным интеллектом (интеллектуальной системой) концепции. Ведь часто то или иное решение человек принимает на основе таких качеств, как рассудительность, чувство эмпатии и т.п.17. Как полагает Н. Бостром, «рационалистическая суть ИИ несовместима с гуманностью и человечностью. Ведь основное свойство разума, проторазума, иного разума и т. д. – это прежде всего приспосабливать к себе окружающую среду. Поскольку у разума как такового нет нравственности, он может «пойти» на все, что считает целесообразным»18. Подтверждением данного умозаключения является известный пример, когда установленная боевая интеллектуальная система на крейсере Vincennes в 1988 г. на основе информации о габаритах, скорости полета и иных характеристиках приняла иранский пассажирский самолёт за боевой, и капитан корабля, основываясь на данных системы, отдал команду о ракетном ударе, в результате которого погибло 290 авиапассажиров19.
17. См. подр.: Weizenbaum J. Computer Power and Human Reason: From Judgement to Calculation. New York, 1976.

18. Цит. по: Стерледев Р.К., Стерледева Т.Д. Искусственный интеллект в аспекте ноосферы: почти фантастика? // Вестник ПНИПУ. Культура. История. Философия. Право. 2017. № 2. С. 62.

19. См.: Юриспруденция и искусственный интеллект: наступает эпоха беспрецедентных вызовов. URL: >>>> (дата обращения: 11.07.2019).
25 Таким образом, перед программистами на современном этапе развития цифрового общества стоит поистине неразрешимая задача – создать искусственный интеллект, способный «осознавать» моральные предписания, и прежде всего такие догмы, как: достоинство, честь, трактовку прав и свобод личности в зависимости от особенностей ментальности разных народов, религиозные, морально-нравственные нормы, культурный код и др. В случае достижения такой задачи искусственный интеллект в полной мере станет субъектом, сопоставимым с физическим лицом. Э. Юдковский, развивая этот тезис, вводит понятие «дружественный искусственный интеллект», в соответствии с которым тот не должен совершать действия, способные любым способом навредить человеку20, т.е. задачей становится обучение его чувству сопереживания, сочувствия – чувству личностной эмпатии. Эта проблема стала предметом обсуждения в мае 2017 г. на закрытом заседании Валдайского клуба21.
20. См.: Yudkowsky E. Creating Friendly AI 1.0: The Analysis and Design of Benevolent Goal Architectures. San Francisco, 2001. Р. 2.

21. Юриспруденция и искусственный интеллект: наступает эпоха беспрецедентных вызовов.
26 Как видим, главной проблемой современного этапа развития искусственного интеллекта состоит в создании «чувственного», дружественного отношения к человеку. И здесь возникает следующая проблема: существует ли различие искусственного интеллекта и «естественного интеллекта», признаваемого главным качеством человека, при этом, как отмечалось выше, связанного с мышлением? В зарубежной научной литературе по искусственному интеллекту различаются его характеристики как «слабого», предназначенного только для выполнения только определенных задач, и «сильного» (общего) искусственного интеллекта, особой технологии, способной к решению широкого числа задач по аналогии с человеческим мозгом22.
22. См.: Castro D., New J. The Promise of Artificial Intelligence [Обещание искусственного интеллекта] // Center for data innovation. October, 2016.
27 В научной литературе по проблемам искусственного интеллекта существуют следующие его определения, как:
28 «системы, которая действует подобно человеку с аналогичными когнитивными способностями;
29 системы (устройства), обладающей хотя бы одним из свойств человеческого разума;
30 результата человеческой деятельности, представляющий собой сложную совокупность коммуникационных и технологических взаимосвязей, обладающую способностью логически мыслить, управлять своими действиями и корректировать свои решения в случае изменения внешних условий23;
23. См.: Ястребов О.А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды ИГП РАН. Т. 13. 2018. № 2. С. 41.
31 сверхразума, т.е. системы, превосходящей интеллектуальные способности человека;
32 научного направления, изучающего возможность использования систем (устройств) для моделирования человеческого мышления (машинное обучение)»24.
24. Васильев А.А., Шпоппер Д., Матаева М.Х. Термин «искусственный интеллект» в российском праве: доктринальный анализ // Юрислингвистика. 2018. № 7-8. С. 41.
33 Особым направлением развития искусственного интеллекта служит онтологический инжиниринг, в результате которого происходит «реализация технологий представления и обработки знаний в процессах решения задач системной интеграции знаний предполагает учет различных формально-методологических требований, критериев и оценок»25. В современной научной литературе анализу подвергаются три категории искусственного интеллекта:
25. Бова В.В., Кравченко Д.Ю., Лещанов Д.В., Новиков А.А. Компьютерная онтология: задачи и методология построения // Информатика, вычислительная техника и инженерное образование. 2014. № 4 (19). С. 4.
34 1) узконаправленный (слабый) искусственный интеллект (УИИ), используемый только в конкретной области;
35 2) общий (сильный) искусственный интеллект, нейронный компьютер, способный выполнять любое интеллектуальное действие, присущее человеку (обладают способностью мыслить, осознавать себя может общаться на естественном языке; способен к обучению; представлению знаний, включая общее представление о реальности; планированию-выполнению последовательности действий, обычно для автономных роботов и беспилотных аппаратов; принимать решений, использовать стратегии для действий в условиях неопределенности; объединять все эти способностей для достижения общих целей26);
26. См.: Ященко В.А. Некоторые проблемные вопросы разработки искусственного мозга // Математичні машини і системи. 2018. № 3. С. 22, 23.
36 3) искусственный сверхинтеллект (ИСИ), обладающий «способностями к научному творчеству, мудрости и навыками к общению»27. Последний вид искусственного интеллекта, способный к перепрограммированию и созданию своей индивидуальной программы для увеличения скорости «усвоения знаний, решению задач и принятию решений» при одновременном совершенствовании кода, поиска и исправления ошибок, измерении собственного коэффициента интеллекта (IQ) с помощью тестов, может создавать суперсовременные компьютеры, работающие со скоростью 36.8 петафлоп в сек., т.е. примерно вдвое быстрее человеческого мозга28;
27. Искусственный интеллект. Часть первая: путь к сверхинтеллекту. URL: >>>> html (дата обращения: 12.07.2019).

28. См.: Баррат Дж. Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens. / пер. с англ. М., 2015. С. 14.
37 4) гибридный искусственный интеллект, который основан на принципиальном различии искусственного и естественного интеллекта, когда основополагающим является требование человекомерности, поэтому для решения «инженерно-психологических и эргономических задач» необходима их «взаимная адаптация»29 в целях «высокой приспособляемости человека в технической среде и повышения качества технических решений»30.
29. Венда В.Ф. Системы гибридного интеллекта: эволюция, психология, информатика. М., 1990.

30. Петруня О.Э. Искусственный интеллект сквозь призму димензиональной онтологии // Философское образование. 2017. № 2 (36). С. 13, 14.
38 Как отмечает О.Э. Петруня, «если рассматривать ИИ всего лишь как усиление функций человека (слабый ИИ), то перспектива выглядит и желанной, и выполнимой. Сильная версия ИИ фактически претендует на решение столь сложной проблемы с помощью простых «одномерных» средств – аппаратных и формально-языковых. Таким образом, мы имеем несоответствие задачи и методов ее решения. В то же время стремление к воспроизводству деятеля в известных проектах (андроидный робот, «аватар» и т. п.), а значит – воссоздание человеческой «трехмерности» (по Франклу) не обходится без конструирования в воображении желаемого результата»31. Поэтому аватар, киберфизическая система, робот и иные объекты интеллектуальных систем не смогут быть соотносимы с человеком, т.к. мышление – это исключительно характеристика естественного интеллекта, поэтому пока любые попытки отделить мыслительный процесс от индивида не могут быть успешны так же, как и разделение характеристики «человечность» от человечества.
31. Там же. С. 9.
39 Во втором десятилетии XXI в. роботы, основанные на программах искусственного интеллекта, стали использоваться во многих видах человеческой деятельности. Разработаны некоторые модели искусственного интеллекта в различных сферах жизнедеятельности человека: автономное планирование и составление расписаний; ведение игр; автономное управление; медицинские диагностические программы, основанные на вероятностном анализе; обеспечение автоматизированного планирования поставок и составления графиков перевозок; робототехника; распознавание естественного языка и решение задач; управление собственностью, страховая деятельность и др.
40 Уже сегодня человек как биологический вид, используя виртуальную реальность, получает искусственное тело-аватар, в которое в перспективе возможна станет пересадка естественного интеллекта (человеческого сознания) с помощью цифровых технологий или прямой пересадки мозга. Люди смогут «переселяться» в киберпространство, в котором оцифрованное сознание будет практически вечно существовать в индивидуальном виртуальном пространстве. «Живущие» в киберпространстве люди не будут нуждаться в социальных отношениях и их регуляторах, соответственно, возникнут (и уже возникают) новые векторы коммуникации (например, социальные сети) требующие принципиально иного правового регулирования. В сфере производства материальных благ при помощи развития NBIC технологий будут созданы особые наномеханические устройства (молекулярные наномашины, в т.ч. наноассемблеры)32, представляющие собой дешевую рабочую силу и способные решать практически любые задачи, что, безусловно, затронет сферу трудового права и права социального обеспечения. В недалеком будущем общество будет состоять не только из людей, имеющих естественный интеллект, но и аватаров, зомби33 и др., а следовательно, признак «человечности», осознанной морали как основание для правового регулирования может исчезнуть безвозвратно в силу иного ценностного основания для определения искусственного интеллекта, основанного на признании несущественности сознания.
32. См. подр.: Drexler K.E. >>>> // Physics Education. 2005. No. 40 (4). Р. 339 - 346; Drexler K.E. >>>> // Handbook of Theoretical and Computational Nanotechnology / ed. by M. Rieth, W. Schommers. American Scientific Publishers. 2006. Vol. 1. P. 1–13.

33. См. подр.: Алексеев А.Ю. Определение философских зомби // Философские науки. 2008. № 1. С. 126 - 148.
41 С.В. Мельников отмечает, что будущее как раз за «онтологическими цифровыми моделями». Основываясь на работах российских исследователей проблем правового обеспечения искусственного интеллекта П.М. Морхата34, И.В. Понкина и А.И. Редькиной35, он поясняет, что «семантическое и онтологическое обогащение моделей может способствовать более оптимальному построению процессов хранения и доступа к данным, предоставляя средства для структурирования, сохранения и визуализации релевантной информации»36. В этом контексте большое значение приобретают предпринимаемые в различных государствах попытки регулирования общественных отношений с технологическим элементом, признания за роботами определенного правового статуса. Уже известны гиноид и гуманоид, получившие удостоверения личности.
34. См.: Морхат П.М. Право интеллектуальной собственности и искусственный интеллект. М., 2018.

35. См.: Понкин И.В., Редькина А.И. Искусственный интеллект и право интеллектуальной собственности // Интеллектуальная собственность, авторское право и смежные права. 2018. № 2. С. 35–44.

36. Мельников С.В. Прогностическое моделирование онтологий искусственного интеллекта как основа для проектирования необходимых референтных изменений законодательства // Право и государство: теория и практика. 2018. № 8(164). С. 93.
42 В современном правовом пространстве37 как основном объекте правовой онтологии особое положение занимает пространство виртуальной реальности, которое, по мнению Г.А. Гаджиева, так же, как и «новые технические возможности передачи информации создают ситуацию, близкую к глубокому кризису права»38. Причиной этого могут служить пока неразрешенные законодательным путем вопросы легального определения каждой из интеллектуальных систем; отнесения искусственного интеллекта, интеллектуальных систем и иных объектов информационных технологий к субъектам или объектам правовых отношений39; содержания, вида и особенностей юридической ответственности за неверные решения или действия искусственного интеллекта; определения прав искусственного интеллекта, особенностей трудовых и налоговых правоотношений при условии использования его работодателями и т.д.
37. См. подр.: Попова А.В. Философия права: учеб. пособие. Ч. 1. М., 2019. С. 28 - 44; Терентьев И.А. Правовое пространство как форма социальной реальности: к постановке проблемы // Общество: философия, история, культура. 2015. № 6; Скоробогатов А.В., Краснов А.В. Правовое пространство: постклассическая интерпретация // Росс. журнал правовых исследований. 2016. № 3 (8). С. 81–88.

38. Гаджиев Г.А. Онтология права (критическое исследование юридического концепта действительности). М., 2013. С. 14.

39. См. подр.: Попова А.В. Новые субъекты информационного общества и общества знания: к вопросу о нормативном правовом регулировании // Журнал росс. права. 2018. № 11 (263). С. 14 - 25.
43 Вопрос отнесения искусственного интеллекта, киберфизических систем, различного рода нейронных систем, разных роботов и объектов робототехники к объектам или субъектам права является первостепенным для их правового регулирования. С.А. Соменков отмечает, что «на сегодняшний день с точки зрения гражданского права система, оснащенная ИИ, — это вещь. При этом законодательство не содержит каких-либо особенностей правового режима этих вещей и не ограничивает их оборот. Однако у этого объекта есть ряд особенностей, связанных с возможностью его автономного функционирования», поэтому подобные системы, по его мнению, следует рассматривать как источник повышенной опасности во всех «сферах, где ценой выхода ИИ из-под контроля может быть не только имущественный вред, но даже здоровье и жизнь человека». При этом необходимо страхование ответственности за причинение вреда (ст. 931 ГК РФ) в случае причинения вреда искусственным интеллектом третьим лицам40.
40. См.: Соменков С.А. Искусственный интеллект: от объекта к субъекту? // Вестник Университета им. О.Е. Кутафина (МГЮА). 2019. № 2. С. 82.
44 По словам В.И. Шершульского, директора по технологической политике Microsoft, производство информации находится в поле деятельности уже не человека, а нейтронных и киберфизических систем, становясь полноправными экономическими субъектами, а следовательно, должны быть наделены правом производить платежи, поэтому различные технологии нуждаются в немедленном законодательном закреплении. Кроме того, необходимость в правовом регулировании искусственного интеллекта, роботов и объектов робототехники актуализируется их использованием в роли водителей, полицейских, музыкантов, врачей, юристов и брокеров, страховщиков и т. д.41 С его точки зрения, проблема правосубъектности искусственного интеллекта и объектов робототехники, в самом широком смысле данного термина, может быть решена двояко. С одной стороны, их можно рассматривать на объект правоотношения, делая основной акцент на «принцип «минимального вмешательства» в развитие новых отраслей и сервисов, а также создание и поддержку саморегулирующихся организаций поставщиков и потребителей». С другой – определение их в качестве квазисубъектов права, целью правового регулирования которых должно состоять в «поддержке развития искусственного интеллекта и робототехники, «превентивного регулирования» через систему рамочных нормативных актов и выработку стандартов».
41. См.: Юриспруденция и искусственный интеллект: наступает эпоха беспрецедентных вызовов.
45 Для Российской Федерации урегулирование нового типа общественных отношений, в которых будет участвовать технологический элемент в виде разного рода киберфизических систем, роботов, объектов робототехники, искусственного интеллекта, аватаров и др. представляет собой первостепенную задачу. Несмотря на отсутствие легального определения искусственного интеллекта в российском законодательстве, сам термин широко используется42. Вопрос определения содержания этих дефиниций в научной литературе является дискуссионным. В.В. Архипов и В.Б. Наумов полагают необходимым определять робототехнику как «совокупность общественных отношений, предметом которых являются производство, распределение и, немного перефразируя классическое определение экономики, использование автоматизированных технических систем»43, поэтому законодательство, его регулирующее, должно носить комплексный характер. В силу данного определения они предлагают разделять две категории:
42. См.: Указ Президента РФ от 09.05.2017 г. № 203 «О Стратегии развития информационного общества в Российской Федерации на 20172030 годы» // СЗ РФ. 2017. № 20, ст. 2901; постановление Правительства РФ от 15.04.2014 г. № 313 (в ред. от 30.03.2018 г.) «Об утверждении государственной программы Российской Федерации "Информационное общество (2011–2020 годы)"» // СЗ РФ. 2014. № 18 (ч. II), ст. 2159; распоряжение Правительства РФ от 28.07.2017 г. № 1632-р «Цифровая экономика Российской Федерации» // СЗ РФ. 2017. № 32, ст. 5138; Указ Президента РФ от 01.12.2016 г. № 642 «О Стратегии научно-технологического развития Российской Федерации» // СЗ РФ. 2016. № 49, ст. 6887; приказ Министерства промышленности и энергетики РФ от 07.08.2007 г. № 311 «О Стратегии развития электронной промышленности России на период до 2025 г.» // Еженедельник промышленного роста. 2007. № 31.

43. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. Вып. 55. 2017. С. 46.
46 1. «Робот», определяемый как «устройство, способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека», и являющийся в силу данного обстоятельства объектом правоотношений.
47 2. «Робот-агент» выступающий в роли квазисубъекта, наделенного специальной правосубъектностью, т.к. он «предназначен по решению собственника и в силу конструктивных особенностей для участия в гражданском обороте, обладающий обособленным имуществом и отвечающий им по своим обязательствам, обладающий правом от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности»44.
44. Там же. С. 50, 51.
48 А.А. Васильев и Д. Шпопер по этому поводу отмечают, что в первом случае искусственный интеллект понимается всего лишь как техническое средство с правовым режимом вещи, а во втором - за ним признается статус электронного лица по аналогии с юридическим лицом «через использование приема правовой фикции». Однако такая трактовка не отвечает самой сущности искусственного интеллекта, т.к. «квалификация искусственного интеллекта как объекта права не учитывает наличия некой субъектности — способности к мышлению и принятию самостоятельных решений. Во втором случае поднимается более глубокий вопрос мировоззренческого порядка: искусственный интеллект — это личность, подобная человеку»45. В Модельной конвенции о робототехнике и искусственном интеллекте «Правила создания и использования роботов и искусственного интеллекта»46, разработанной А.В. Незнамовым и В.Б. Наумовым, отмечается, что «роботы могут выступать в гражданском обороте как самостоятельные лица, в том числе выступать собственниками других роботов, если это прямо установлено применимым законодательством». Однако авторы не определяют правовой статус таких «самостоятельных лиц».
45. См.: Васильев А.А., Шпопер Д. Искусственный интеллект: правовые аспекты // Известия Алтайского гос. ун-та. Сер.: Юрид. науки. 2018. № 6 (104). С. 24.

46. Незманов А.В., Наумов В.Б. Модельная конвенция о робототехнике и искусственном интеллекте «Правила создания и использования роботов и искусственного интеллекта» URL: >>>> (дата обращения: 13.07.2019).
49 Ряд авторов полагают возможным определять искусственный интеллект как электронное лицо в виде «децентрализованных автономных организаций, «управляемых посредством так называемых умных контрактов (smart contracts)»47. Т.Я. Хабриева и Н.Н. Черногор полагают возможным определять роботов как «цифровых личностей»48, В.Ф. Ужов предлагает определять искусственный интеллект как «электронное лицо носитель искусственного интеллекта (машина, робот, программа), обладающий разумом, аналогичным человеческому, способностью принимать осознанные и не основанные на заложенном создателем такой машины, робота, программы алгоритме решения, и в силу этого наделённый определёнными правами и обязанностями»49. По мнению О.А. Ястребова, необходимо различать «электронное лицо» и «электронного индивида» робота, «причем искусственный интеллект, носителями которого являются удовлетворяющие определенным критериям роботы, необходимо рассматривать как базовую составляющую электронного лица»50.
47. Ястребов О.А. Указ. соч. С. 38.

48. Хабриева Т.Я., Черногор Н.Н. Право в эпоху цифровой реальности // Журнал росс. права. 2018. № 1.

49. Ужов В.Ф. Искусственный интеллект как субъект права // Пробелы росс. законодательства. 2017. № 3. С. 358.

50. Ястребов О.А. Указ. соч. С. 40.
50 С точки зрения В.В.Котляровой, к числу прав электронного лица должны быть отнесены:
51 1) право на жизнь. Однако для электронного лица необходимо будет разработать специальные критерии ее гарантированности со стороны государства. Данное обстоятельство актуализировано тем, что по отношению к физическому лицу смерть в соответствии со ст. 2 Правил определения момента смерти человека, в т.ч. критерии и процедура установления смерти человека, означает «момент смерти его мозга или его биологической смерти (необратимой гибели человека)»51. Но определить факт «биологической смерти» для искусственного интеллекта не представляется возможным. Поэтому фактом приобретения электронным лицом права на жизнь «должно быть приобретаемым в момент появления первой информации в хранилище данных искусственного интеллекта»;
51. См.: постановление Правительства РФ от 20.09.2012 г. № 95 «Об утверждении Правил определения момента смерти человека, в том числе критериев и процедуры установления смерти человека, Правил прекращения реанимационных мероприятий и формы протокола установления смерти человека» // СЗ РФ. 2012. № 39, ст. 5289.
52 2) «электронное лицо должно претендовать на защиту от различных модификаций и нарушений целостности информации в хранилище данных и программном коде, которые могут привести к деформации личности или уничтожению искусственного интеллекта;
53 3) права на результат деятельности (творческой, научной) искусственного интеллекта должны принадлежать ИИ, а не его создателю;
54 4) ИИ должен обладать правом на самоопределение, т.е. самостоятельно осуществлять свое развитие, как культурное, так и экономическое, а также самостоятельно определять сферу своей деятельности»52.
52. Котлярова В.В. Права искусственного интеллекта // Дневник науки. 2019. № 5.
55 В.Ф. Ужов предлагает для электронного лица законодательно определить только «право на неприкосновенность (изменение, модификация, форматирование либо ликвидация носителя ИИ должны быть санкционированы соответствующей комиссией и/или органом власти», в противном случае это должно рассматриваться «как преступление против «электронной личности») и право на авторство созданных электронным лицом объектов интеллектуальной собственности53. В общей теории права в содержание правосубъектности (правового статуса) включены не только права, но обязанности, невыполнение которых влечет за собой наступление ответственности. Для их определения в отношении электронного лица необходимо разработать критерии определения его «сознания» и обстоятельства, исключающие ответственность.
53. См.: Ужов В.Ф. Указ. соч. С. 359.
56 Хотя в современном праве нормативно урегулированы субъекты права, обладающие правами, но в силу признания их ограничено и полностью недееспособными, не несущие ответственность за совершаемые ими действиями. Кроме того, лица до 18 лет, имеющие статус несовершеннолетних, обладают правами, но не обязанностями. Кроме того, целью наказания в соответствии с ч. 2 ст. 43 УК РФ является восстановление социальной справедливости, исправление осужденного и предупреждение совершения новых преступлений. По отношению к электронному лицу подобные цели не могут быть реализованы, поэтому при наделении законодателем правосубъектностью электронного лица необходимо будет изменять по отношению к нему меры и содержание мер наказания в случае уголовно-правовой ответственности.
57 Другой точки зрения придерживается П.М. Морхат, который полагает, что правосубъектность электронного лица не может быть сопоставима с правосубъектностью человека: лишён интенциональности; не способен ощущать на себе последствия своих действий (бездействия), не способен ни к каким чувствам, руководствоваться в своей деятельности морально-этическими догмами; не может быть привлечён к уголовно-правовой и административно-правовой ответственности54. Поэтому электронное лицо не может отвечать самостоятельно за причинения им вреда. В этом случае в зависимости от действий электронного лица ответственность будет возложена либо на разработчика программы искусственного интеллекта (если совершена ошибка или неверно принято решение из-за некорректного программирования), либо на производителя (если будет доказано, что деяние совершено электронным лицом из-за ограничения возможностей правообладателей принимать меры предосторожности со стороны производителя), либо правообладателя во всех иных случаях. П.М. Морхат отмечает, что особая проблема в отношении электронных лиц заключается в том, что ныне не существует защиты от взлома или перепрограммирования киберфизических систем, нейросетей или иных видов интеллектуальных систем, поэтому установление причины неправомерных действий со стороны искусственного интеллекта затруднительно55.
54. См.: Морхат П.М. Указ. соч. С. 76.

55. См.: Мохарт П.М. Ответственность третьих лиц за совершение юнитами искусственного интеллекта, причиняющих вред // Государственная служба и кадры. 2018. № 3. С. 47 - 49.
58 * * *
59 Как видим, нет единства в определении искусственного интеллекта в научной литературе. Анализируемые различные позиции могут стать основой для законодательного закрепления только при условии формирования единого теоретико-правового подхода к трактовке места и роли искусственного интеллекта в правовом пространстве. Остается пока без ответа и еще один вопрос: возможно ли правовое регулирование искусственного интеллекта, киберфизических систем, нейронных сетей, роботов и объектов робототехники исключительно в формате национального права? И да, и нет. С одной стороны, правовое пространство отдельных государств различно по своим содержательным признакам, а следовательно, правовые традиции в зависимости от принадлежности национальным систем права к правовым системам, трактуют особенности правового регулирования. С другой – их правовая регламентация урегулирование возможно только совместными усилиями международного сообщества, в связи с чем значительно возрастает значение и роль коллективных начал, общих интересов и социального как особого всеобщего блага. Все это актуализирует необходимость незамедлительного формирования концепции правового регулирования искусственного интеллекта, роботов и объектов робототехники в Российской Федерации.

Библиография

1. Алексеев А.Ю. Определение философских зомби // Философские науки. 2008. № 1. С. 126 - 148.

2. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. Вып. 55. 2017. С. 46, 50, 51.

3. Баррат Дж. Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens. / пер. с англ. М., 2015. С. 14.

4. Бова В.В., Кравченко Д.Ю., Лещанов Д.В., Новиков А.А. Компьютерная онтология: задачи и методология построения // Информатика, вычислительная техника и инженерное образование. 2014. № 4 (19). С. 4.

5. Васильев А.А., Шпопер Д. Искусственный интеллект: правовые аспекты // Известия Алтайского гос. ун-та. Сер.: Юрид. науки. 2018. № 6 (104). С. 24.

6. Васильев А.А., Шпоппер Д., Матаева М.Х. Термин «искусственный интеллект» в российском праве: доктринальный анализ // Юрислингвистика. 2018. № 7-8. С. 41.

7. Венда В.Ф. Системы гибридного интеллекта: эволюция, психология, информатика. М., 1990.

8. Гаджиев Г.А. Онтология права (критическое исследование юридического концепта действительности). М., 2013. С. 14.

9. Гартман Н. К основоположению онтологии. СПб., 2003.

10. Догадайло Е.Ю. Время и право: теоретико-правовое исследование: дис. ... д-ра юрид. наук. М., 2013.

11. Искусственный интеллект. Часть первая: путь к сверхинтеллекту. URL: https://hi-news.ru/research-development/iskusstvennyj-intellekt-chast-pervaya-put-k-sverxintellektu.html (дата обращения: 12.07.2019).

12. Котлярова В.В. Права искусственного интеллекта // Дневник науки. 2019. № 5.

13. Лекторский В.А. Возможны ли науки о человеке? // Вопросы философии. 2015. № 5. С. 6.

14. Леонгард Г. Технологии против человека / пер. с англ. А.О. Юркова, М.Ю. Килина, Т.Ю. Глазкова; предисл. М. Федорова. М., 2018. С. 87, 88.

15. Максимов В.Ю., Клышинский Э.С., Антонов Н.В. Проблема понимания в системах искусственного интеллекта // Новые информационные технологии в автоматизированных системах. 2016. № 19. С. 44.

16. Мельников С.В. Прогностическое моделирование онтологий искусственного интеллекта как основа для проектирования необходимых референтных изменений законодательства // Право и государство: теория и практика. 2018. № 8(164). С. 93.

17. Мохарт П.М. Ответственность третьих лиц за совершение юнитами искусственного интеллекта, причиняющих вред // Государственная служба и кадры. 2018. № 3. С. 47 - 49.

18. Морхат П.М. Право интеллектуальной собственности и искусственный интеллект. М., 2018. С. 76.

19. Незнамов А. Рец. на кн.: Г. Леонгард. Технологии против человека // Дайджест Робоправо. 2019. Март. Вып. 13. С. 89.

20. Незманов А.В., Наумов В.Б. Модельная конвенция о робототехнике и искусственном интеллекте «Правила создания и использования роботов и искусственного интеллекта» URL: http://robopravo.ru (дата обращения: 13.07.2019).

21. Опарин А.И. Жизнь, ее природа, происхождение и развитие. 2-е изд., доп. М., 1968. URL: https://www.evolbiol.ru/oparin.htm (дата обращения: 13.07.2019).

22. Петруня О.Э. Искусственный интеллект сквозь призму димензиональной онтологии // Философское образование. 2017. № 2 (36). С. 9, 13, 14.

23. Понкин И.В., Редькина А.И. Искусственный интеллект и право интеллектуальной собственности // Интеллектуальная собственность, авторское право и смежные права. 2018. № 2. С. 35–44.

24. Попова А.В. Новые субъекты информационного общества и общества знания: к вопросу о нормативном правовом регулировании // Журнал росс. права. 2018. № 11 (263). С. 14 - 25.

25. Попова А.В. Философия права: учеб. пособие. Ч. 1. М., 2019. С. 28–44.

26. Попова А.В., Абрамова М.Г. Природа природы и онтология человека: к вопросу о новых субъектах права // Росс. журнал правовых исследований. 2017. № 1. С. 54–62.

27. Попова А.В., Абрамова М.Г. Технологическая сингулярность как точка невозврата: назад в будущее? // Росс. журнал правовых исследований. 2018. № 3. С. 39 - 47.

28. Рассел С., Норвиг П. Искусственный интеллект: современный подход / пер. с англ. 2-е изд. М., 2006. С. 35.

29. Романов П.С. Основы искусственного интеллекта. Коломна, 2010. С. 11, 12.

30. Скоробогатов А.В., Краснов А.В. Правовое пространство: постклассическая интерпретация // Росс. журнал правовых исследований. 2016. № 3 (8). С. 81–88.

31. Соменков С.А. Искусственный интеллект: от объекта к субъекту? // Вестник Университета им. О.Е. Кутафина (МГЮА). 2019. № 2. С. 82.

32. Стерледев Р.К., Стерледева Т.Д. Искусственный интеллект в аспекте ноосферы: почти фантастика? // Вестник ПНИПУ. Культура. История. Философия. Право. 2017. № 2. С. 62.

33. Стерледева Т.Д. Онтология электронно-виртуальной реальности // Исторические, философские, политические и юридические науки, культурология и искусствоведение. Вопросы теории и практики. 2017. № 1 (75) C. 190, 191.

34. Терентьев И.А. Правовое пространство как форма социальной реальности: к постановке проблемы // Общество: философия, история, культура. 2015. № 6.

35. Ужов В.Ф. Искусственный интеллект как субъект права // Пробелы росс. законодательства. 2017. № 3. С. 358, 359.

36. Хабриева Т.Я., Черногор Н.Н. Право в эпоху цифровой реальности // Журнал росс. права. 2018. № 1.

37. Хайдеггер М. Бытие и время. М., 2013.

38. Шкляр Т.Л., Попова А.В. Гибридная реальность: психологический и правовой аспект [Gibridnaya realnosty: psikhologicheskiy i pravovoy aspekt] // Креативная экономика. Т. 12. 2018. № 9. С. 1331 - 1344. DOI: 10/18334/ce.12.9.39330.

39. Юриспруденция и искусственный интеллект: наступает эпоха беспрецедентных вызовов. URL: http://ru.valdaiclub.com/events/posts/articles/yurisprudentsiya-i-iskusstvennyy-intellekt-nastupaet-epokha-bespretsedentnykh-vyzovov/ (дата обращения: 11.07.2019).

40. Ястребов О.А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды ИГП РАН. Т. 13. 2018. № 2. С. 38, 40, 41.

41. Ященко В.А. Некоторые проблемные вопросы разработки искусственного мозга // Математичні машини і системи. 2018. № 3. С. 22, 23.

42. Asimov I. Foundation and Earth. New York, 2004. P. 476.

43. Castro D., New J. The Promise of Artificial Intelligence [Обещание искусственного интеллекта] // Center for data innovation. October, 2016.

44. Drexler K.E. Productive nanosystems: the physics of molecular fabrication // Physics Education. 2005. No. 40 (4). Р. 339–346.

45. Drexler K.E. Toward Integrated Nanosystems: Fundamental Issues in Design and Modeling // Handbook of Theoretical and Computational Nanotechnology / ed. by M. Rieth, W. Schommers. American Scientific Publishers. 2006. Vol. 1. P. 1–13.

46. Fukuyama F. The World's Most Dangerous Ideas: Transhumanism // Foreign Policy. 2004. No. 144. P. 42, 43.

47. Yudkowsky E. Creating Friendly AI 1.0: The Analysis and Design of Benevolent Goal Architectures. San Francisco, 2001. Р. 2.

48. Weizenbaum J. Computer Power and Human Reason: From Judgement to Calculation. New York, 1976.

Комментарии

Сообщения не найдены

Написать отзыв
Перевести