Везде
Development of the doctrine of Russian Information Law in the context of the transition to a data economy
Table of contents
Annotation Estimate Publication content
References Comments
Share
QR
Metrics
Development of the doctrine of Russian Information Law in the context of the transition to a data economy
Annotation
PII
S102694520027660-7-1
DOI
10.31857/S102694520027660-7
Publication type
Article
Status
Published
Authors
Tatiana A. Polyakova 
Occupation: Chief Research Fellow, Acting Head of the Information Law and International Information Security sector, Institute of State and Law
Affiliation: Institute of State and Law of the Russian Academy of Sciences
Address: Russian Federation, Moscow
Alexey V. Minbaleev
ORCID: 0000-0001-5995-1802
Occupation: Head of the Department of Information Law and digital technologies
Affiliation:
Kutafin Moscow state Law University (MSAL)
The Institute of State and Law of the Russian Academy of Sciences
Address: Russian Federation
Natalya V. Krotkova
ORCID: 0000-0003-2853-1287
Occupation: Leading research fellow, sector of Constitutional Law and Constitutional justice, Institute of State and Law of the Russian Academy of Sciences, Vice-Editor-in-Chief of journal “State and Law” of the Russian Academy of Sciences
Affiliation: The Institute of State and Law of the Russian Academy of Sciences
Address: Russian Federation, Moscow
Edition
Issue 9
Pages
158-171
Abstract

The authors of the article analyze the peculiarities of the development of society and the state in the conditions of transition to a new national development project – the data economy, as well as related modern trends in the development of Information Law. The data economy focuses primarily on a practice-oriented approach to the active implementation of domestic developments and the formation of technological sovereignty. The development of such a mechanism should be carried out on the basis of flexible regulation and support of production. As in the digital economy, the flexible regulation approach seems to be a priority in the data economy. But in order to achieve the desired result as quickly as possible, the task is to find new methods and approaches. In this regard, a flexible approach to regulation should be associated with the possibility of creating models for maximum resolution of the introduction and use of technologies with a strictly formally defined system of risks, for the occurrence of which there may be adverse consequences or certain corrective actions under the control of the state. In the article, the authors analyze how methods and approaches to regulating relations in the data economy should change. Awareness of the risks and threats emanating from artificial intelligence determines the question of the development and adoption of special legislation on artificial intelligence, which should be based on the basic federal law on artificial intelligence. The paper presents the arguments “for” and “against” such an act, its content, analyzes approaches to the regulation of individual issues. The problems of legal regulation of metaverses as a space for the development of the data economy are analyzed. It is concluded that a number of problems and risks that we have to face today in the formation of social relations in the metaverse, necessitate the legal regulation of these relations and the development of an integral system of legal norms, including at the level of strategic planning acts. The question of the expediency of using foreign experience in developing a Digital Code (on the example of the Kyrgyz Republic) is considered. In conclusion, the article analyzes the main problems that were discussed at scientific events on the problems of Information Law, including the Sixth Bachilov Readings held in 2023 at the Institute of State and Law of the Russian Academy of Sciences.

Keywords
data, Information Law, artificial intelligence, quantum technologies, quantum communications, science of Information Law, conceptual apparatus, transformation, digital economy, Digital Code, data economy
Received
06.08.2023
Date of publication
29.09.2023
Number of purchasers
14
Views
402
Readers community rating
0.0 (0 votes)
Cite   Download pdf Download JATS
1

Polyakova jpeg
2

Minballev jpeg
3

Krotkova jpeg
4 Введение
5 Трансформационные процессы, связанные с увеличением роли и значения данных в современном обществе и государстве, приводят к необходимости изменения государственной политики, появления новых инструментов для развития механизма регулирования вновь возникающих отношений. Во многом это связано с изменением парадигмы управления данными как на международном, так и на государственном и корпоративном уровнях. Выступая на Форуме будущих технологий «Вычисления и связь. Квантовый мир», Президент РФ В.В. Путин обозначил переход от цифровой экономики к экономике данных. При этом им поставлена «принципиальная задача – перевести всю экономику, социальную сферу, органы власти, работу органов власти на качественно новые принципы работы, внедрить управление на новых данных – на основе больших данных», что должно повлечь «кратное повышение качества управления и производительности труда, рабочие места с передовыми компетенциями и высокими заработными платами, доступность услуг, сервисов, принципиально иные возможности для наших граждан, для человека»1. В связи с этим Президентом РФ предложено в течение года подготовить новый национальный проект по формированию экономики данных на период до 2030 года, в рамках которого предполагается «консолидировать существующие инструменты поддержки развития цифровой экономики, искусственного интеллекта и высокотехнологичных проектов, включая “дорожные карты” по развитию квантовых технологий» и разработки в этой сфере осуществить на практике.
1. Пленарное заседание Форума будущих технологий. URL: >>>> (дата обращения: 20.07.2023 г.).
6 Среди ключевых направлений развития экономики данных обозначены: сбор данных, в том числе с использованием высокочувствительных датчиков, включая квантовые сенсоры; передача данных, развитие систем связи, в том числе последующих поколений; суверенная инфраструктура для вычислений и хранения данных внутри страны (отечественные облачные платформы и центры обработки данных, вычислительные мощности собственного производства); безопасность данных, в том числе с использованием технологий квантовых коммуникаций и квантового шифрования; суверенные и национальные стандарты и протоколы работы с данными; алгоритмы обработки и анализа данных, включая решения в области искусственного интеллекта, а также отечественное программное обеспечение; хранилища кода – отечественные платформы и сервисы2.
2. См.: там же.
7 Бесспорно, что внедрение таких технологий возможно только при наличии соответствующей правовой основы. В связи с чем перед правовой наукой стоит задача не только выстроить модели и подходы к регулированию функционирования инструментов поддержки и развития цифровой экономики и отдельных высокотехнологических отраслей, использованию отдельных технологий, но и предложить эффективные концепции и модели проектов нормативных правовых актов, которые позволили бы развиваться экономике данных.
8 Современные методологические подходы к исследованию в условиях перехода к экономике данных
9 Трансформация и переход к экономике данных, безусловно, предполагает развитие методологического обеспечения данных процессов. Наряду с формировавшимися методологическими подходами, активно применяемыми в последние годы в рамках развития цифровой экономики, сегодня явно существует необходимость созданиях новых методов и подходов, а также внесение корректировки в существующие.
10 Экономика данных ориентируется в первую очередь на практико-ориентированный подход активного внедрения отечественных разработок и формирование технологического суверенитета, который должен быть реализован на основе выстраивания «целостного механизма создания и повсеместного внедрения передовых разработок»3. Развитие такого механизма должно быть на основе гибкого регулирования и поддержки производства. Как и в рамках цифровой экономики, в экономике данных подход гибкого регулирования является приоритетным. Но чтобы добиться максимально быстро необходимого результата, ставится задача по поиску новых методов и подходов.
3. Там же.
11 Среди них системный подход и экстраполяция современных юридических исследований на регулирование не только отношений в сфере создания и использования имеющихся технологий и разработок, но и уже следующего технологического уклада, рынков будущего. Детерминировано это прежде всего значительными рисками того, что новые технологические уклады уже не смогут позволять государству не вмешиваться в те или иные процессы на протяжении периода развития и адаптации технологий. У него просто не будет времени. Технологии развиваются по пути формирования минимального жизненного цикла, поскольку происходит значительное сжатие времени каждого нового технологического витка развития. Мы все ближе приближаемся к временному континууму, при котором создание новых технологий будет одновременно точкой их устаревания, поскольку возникают в это же время новые.
12 В связи с этим гибкий подход в регулировании должен быть связан с возможностью создания моделей максимального разрешения внедрения и использования технологий со строго формально определенной системой рисков, за наступление которых могут быть неблагоприятные последствия или определенные корректирующие действия под контролем государства.
13 Изменение явно должно происходить и в рамках применяемого в цифровой экономике экспериментального метода и подхода к регулированию процессов в рамках экспериментальных правовых режимов в сфере цифровых инноваций. Полагаем, что необходимо максимально дифференцировать такие режимы, предусматривая возможности минимизации использования административных процедур.
14 Использование экспериментов также должно носить явно дискретный характер, предполагающий возможность оперативного вмешательства государства при наличии ряда рисков, формально обозначенных в законодательстве. В условиях появления новых технологий те или иные риски могут привести к негативным последствиям за незначительный промежуток времени, поэтому важно нормативно закрепить допустимость реагирования на возникшие риски и угрозы.
15 Важным фактором в условиях экономики данных должно быть и обеспечение достоверности информации. Формирование фейковых данных, лиц, различных объектов становится одной из базовых угроз эффективной системы управления данными. В связи с этим на методологическом уровне важно закрепить систему средств обеспечения и проверки достоверности данных4.
4. См.: Петровская О.В. Принцип достоверности информации и его реализация в информационном обществе: теоретико-правовые проблемы // Право и государство: теория и практика. 2020. № 3 (183). С. 207 - 211; Минбалеев А.В., Петровская О.В. Проблемы реализации принципа достоверности информации в условиях цифровой трансформации // Российский юрид. журнал. 2022. № 4 (145). С. 20 - 28.
16 Основные современные векторы развития науки информационного права
17 В современную эпоху быстро эволюционируют информационно-коммуникационные и уже традиционно цифровые технологии, развитие киберпространства как факторы, оказывающие влияние на взаимоотношения государств и на развитие доктринальных подходов зарубежной и отечественной науки к понятию суверенитета5. Нельзя отрицать, что ускоряющиеся происходящие в мире процессы, направленные на изменение миропорядка, связаны с процессами цифровизации. Проблемы развития науки информационного права, его фундаментальных положений, структуры, системы, перспективы и горизонты, формирование научной школы постоянно находятся в сфере внимания авторов настоящей статьи, что представляется весьма актуальным и значимым в связи с внедрением новой системы научных специальностей в области права. Учитывая колоссальную динамику внедрения цифровых технологий в нашу жизнь, особенно это характерно для России, вызывает научный интерес вопрос о развитии под влиянием цифровых технологий системы информационного и цифрового права. Так, каковы сегодня отличительные особенности развития доктрины информационного права, какие ключевые факторы оказывают влияние на ее развитие? На наш взгляд, этот вопрос представляет научный интерес, поскольку, как справедливо отмечает проф. В.Д. Перевалов, «определяющим началом, объединяющим различные позиции исследователей, являются научные юридические знания, которые составляют содержание юридической науки в целом и правовой науки в частности»6.
5. См.: Капустин А.Я. Суверенитет государства в киберпространстве: международно-правовое измерение // Журнал зарубежного законодательства и сравнительного правоведения. 2022. Т. 18. № 6. С. 99–109.

6. Перевалов В.Д. Правовая доктрина: проблемы формирования и реализации. М., 2023. С. 5.
18 Проведенный анализ позволяет считать, что одно из ключевых направлений развития информационного права и информационного законодательства - регулирование отношений в сфере создания и использования стратегически важных технологий, в том числе искусственный интеллект и нейронные сети, квантовые технологии, технологии виртуальной и дополненной реальности, являющиеся основой развития метавселенных7. Все это также непосредственно связано и с развитием нового национального проекта экономики данных. Следует отметить, что большинство прогнозов, которые ранее были сделаны8 сотрудниками сектора информационного права и международной информационной безопасности Института государства и права РАН, так или иначе уже реализуются на практике и находят поддержку в науке.
7. См.: Новые горизонты развития системы информационного права в условиях цифровой трансформации / отв. ред.: Т.А. Полякова, А.В. Минбалеев, В.Б. Наумов. М., 2022.

8. См.: Полякова Т.А., Минбалеев А.В., Кроткова Н.В. Основные тенденции и проблемы развития науки информационного права // Государство и право. 2022. № 9. С. 94 - 104. DOI: 10.31857/S102694520022203-4; Их же. Развитие науки информационного права и правового обеспечения информационной безопасности: формирование научной школы информационного права (прошлое и будущее) // Государство и право. 2021. № 12. С. 97–108. DOI: 10.31857/S102694520017761-8; Их же. Новые векторы развития информационного права в условиях цивилизационного кризиса и цифровой трансформации // Государство и право. 2020. № 5. С. 75 - 87. DOI: 10.31857/S013207690009678-7; Полякова Т.А., Минбалеев А.В., Троян Н.А. Формирование культуры информационной безопасности граждан Российской Федерации в условиях новых вызовов: публично-правовые проблемы // Государство и право. 2023. № 5. С. 131 - 144. DOI: 10.31857/S102694520025209-0
19 Регулирование искусственного интеллекта: проблемы и перспективы. Активное развитие и повсеместное внедрение искусственного интеллекта и сопутствующих с ним технологий ставит перед любым современным государством вопрос о необходимости правового и технического регулирования отношений, складывающихся в связи с их созданием и использованием.
20 Вместе с тем осознание рисков и угроз, исходящих от искусственного интеллекта, обусловливает постановку вопроса о разработке и принятии специального законодательства об искусственном интеллекте, в основе которого должен быть базовый федеральный закон об искусственном интеллекте. Задача по его принятию поставлена и в Российской Федерации. Однако обращает внимание то, что научные дискуссии доктринального характера относительно необходимости и возможности принятия подобного законодательного акта ведутся уже несколько лет и касаются в первую очередь как правосубъектности, так и ответственности искусственного интеллекта. Аналогичная работа ведется в Европейском Союзе, США, КНР и других государствах. В связи с тем, что технология искусственного интеллекта функционирует практически по единым принципам и стандартам во всем мире, важным представляется анализ, исследование лучших практик и решений для возможного учета в законопроектной работе. Нельзя отрицать целесообразность использования российского и зарубежного опыта этического регулирования. Вместе с тем следует признать, что сегодня уже в определенной степени пришло осознание того, что этическое регулирование в сфере использования искусственного интеллекта не панацея и нужно переходить к более централизованному регулированию. Необходимость развития доктринальных положений науки информационного права, касающихся правового регулирования использования искусственного интеллекта, позволяет сделать вывод о важности нахождения баланса между безопасностью и экономической эффективностью, поэтому представляется, что базовый закон об искусственном интеллекте не только должен обеспечить защиту прав и свобод человека и гражданина при создании и использовании таких технологий, но и заложить основу для эффективного повсеместного и успешного применения их в бизнесе. Стратегические задачи, связанные с разработкой и принятием такого закона, по сути, определены в актах стратегического планирования, в том числе в Национальной стратегии развития искусственного интеллекта на период до 2030 года, согласно которой «к 2024 году должны быть созданы необходимые правовые условия для достижения целей, решения задач и реализации мер, предусмотренных ей»9. В Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года также указывается, что «следствием реализации Концепции должны стать разработка и принятие к 2024 году нормативных правовых актов в сфере искусственного интеллекта и робототехники, создающих комфортную регуляторную среду для развития технологий искусственного интеллекта и робототехники»10.
9. См.: Указ Президента РФ от 10.10.2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // СПС «КонсультантПлюс».

10. См.: распоряжение Правительства РФ от 19.08.2020 г. № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года» // СПС «КонсультантПюс».
21 Представляется, что принятие законодательного акта в данной области целесообразно по следующим причинам:
22 1) очевидно, что в настоящее время созрела объективная необходимость обеспечения и защиты прав и свобод человека и гражданина в связи с созданием и использованием искусственного интеллекта. Имеющаяся практика формирования алгоритмов и онтологий искусственного интеллекта позволяет весьма дискретно подходить к вопросам соблюдения практически любых прав и свобод человека и гражданина. Задачи обеспечения информационной безопасности с учетом рисков программирования определенных решений, обучения искусственного интеллекта недостоверной или специально создаваемой и направленной на достижение определенного негативного эффекта информацией, риски «черного ящика» свидетельствуют о необходимости закрепления правовых норм (вопросов), направленных на защиту прав и свобод на уровне федерального закона. Кроме того, использование искусственного интеллекта как в целях обеспечения национальной безопасности, так и в других требует установления возможного набора ограничений прав и свобод в связи с соответствующим этим целям его использованием, что возможно только на законодательном уровне;
23 2) необходима унификация и формирование единого понятийного аппарата, отражающего природу искусственного интеллекта, а также отдельных технологий, связанных с ним (нейронные сети, онтологии данных, алгоритм искусственного интеллекта и др.)11;
11. См.: Arkhipov V.V., Gracheva A.V., Naumov V.B. et al. Definition of artificial intelligence in the context of the Russian legal system: a critical approach // State and Law. 2022. No 1. P. 168 - 178. DOI: 10.31857/S102694520018288-7; Минбалеев А.В. Понятие “искусственный интеллект” в праве // Вестник Удмуртского ун-та. Сер: Экономика и право. 2022. Т. 32. № 6. С. 1094 - 1099; Наумов В.Б., Камалова Г.Г. Вопросы построения юридических дефиниций в сфере искусственного интеллекта // Труды ИГП РАН. 2020. Т. 15. № 1. С. 81 - 93; Полякова Т.А., Камалова Г.Г. «Право искусственного интеллекта» и его место в системе информационного права // Правовое государство: теория и практика. 2021. № 3 (65). С. 133 - 145; Минбалеев А.В., Титова Е.В. Проблемы использования технологий искусственного интеллекта в спортивной сфере и правовые ограничения // Человек. Спорт. Медицина. 2020. Т. 20. № S2. С. 114 - 119; Минбалеев А.В., Берестнев М.А., Евсиков К.С. Регулирование использования искусственного интеллекта в добывающей промышленности // Известия Тульского гос. ун-та. Науки о Земле. 2022. № 2. С. 509 - 525; Nikolskaya K., Naumov V. Artificial Intelligence in Law // 2020 International Multi-Conference on Industrial Engineering and Modern Technologies, FarEastCon 2020, Vladivostok, October 6-9, 2020. Vladivostok, 2020. P. 927 - 1095; Егорова М.А., Минбалеев А.В., Кожевина О.В., Дюфло А. Основные направления правового регулирования использования искусственного интеллекта в условиях пандемии // Вестник СПбУ. Право. 2021. Т. 12. № 2. С. 250 - 262.
24 3) усиление международной конкуренции за мировое лидерство в сфере развития искусственного интеллекта и технологического лидерства также свидетельствует о значении обеспечения технологического суверенитета Российской Федерации в части отечественных разработок в данной сфере, в том числе отечественных баз данных для обучения нейронных сетей;
25 4) активное внедрение искусственного интеллекта во все сферы жизнедеятельности общества, в промышленности, а также в сфере государственного управления; стимулирование государством такого внедрения и использования требует от него фиксации единых правил, которые создавали бы законную основу для развития данного направления. К сожалению, сегодня требования к использованию технологий искусственного интеллекта не носят системного характера, являются фрагментарными и создаются в большей степени ad hoc. В связи с этим необходима разработка и принятие не только базового закона об искусственном интеллекте, но и других специальных нормативных правовых актов, в том числе регулирующих использование данных технологий в той или иной отрасли (сфере), включая беспилотные транспортные системы, генеративный искусственный интеллект, а также касающихся вопросов интеллектуальной собственности, маркировки результатов искусственного интеллекта (особенно важно в отношении генеративного искусственного интеллекта) и комплексных мер государственной поддержки и др.
26 В качестве альтернативы правовому регулированию выдвигаются предложения, связанные со стремлением сформировать практику этического регулирования в данной сфере, позволяющую определить векторы правового регулирования. Кроме того, с практической точки зрения многие производители технологий и акторы, их внедряющие, опасаются, что законодательное регулирование будет направлено на введение дополнительных барьеров, которые могут негативно сказаться на динамичном характере технологического роста, что представляет определенные риски с позиции более конкретного определения того, что государство понимает под искусственным интеллектом. Логичным может быть и введение ряда ограничений и запретов в части формирования и контроля за алгоритмами и онтологиями, что также может привести потенциально к нарушению прав значительного количества граждан. Определённые сложности связаны с многообразием уже имеющихся технологий искусственного интеллекта, а также продолжения развития данной тенденции. В связи с этим для правового регулирования определенные сложности имеет вопрос относительно технологической нейтральности. В частности, возникает вопрос: регулировать только «слабый» искусственный интеллект или уже есть необходимость специальных законодательных запретов и ограничений в отношении «сильного» искусственного интеллекта? В настоящее время можно выделить целую систему рисков, связанных с созданием и различными способами использования искусственного интеллекта. Возникают вопросы и относительно приоритетности рисков, с учетом появления новых, которое потребует постоянного внесения изменений в нормативные правовые акты.
27 К сожалению, в обществе к развитию и применению технологий искусственного интеллекта относятся с определенной мерой недоверия, продолжает существовать аллармизм, связанный, как показывают социологические исследования, с низким уровнем правосознания в обществе в этой части12. Многие усматривают в развитии регулирования искусственного интеллекта попытки государством его официального внедрения и использования против граждан.
12. См.: Polyakova T.A., Naumov V.B., Minbaleev A.V. Trust in the law during the digital transformation // State and Law. 2022. No. 11. P. 139 - 147. DOI: 10.31857/S102694520022767-4
28 Важным вопросом, вызывающим множество дискуссий в юридическом сообществе, является определение субъектов в сфере искусственного интеллекта13. Так, в Кодексе этики в сфере искусственного интеллекта используется категория «актор искусственного интеллекта», которой охватывается весь круг субъектов, связанных с искусственным интеллектом, в том числе «разработчики, создающие, обучающие, тестирующие модели / системы искусственного интеллекта и разрабатывающие, реализующие такие модели / системы, программные и / или аппаратные комплексы; заказчики (лицо или организация), получающие продукт или услугу; поставщики данных и лица, осуществляющие формирование наборов данных для применения их в системах искусственного интеллекта; эксперты, осуществляющие измерение и / или оценку параметров разработанных моделей / систем; изготовители, осуществляющие производство систем; эксплуатанты систем, на законном основании владеющие соответствующими системами, использующие их по назначению и непосредственно реализующие решение прикладных задач с использованием систем; операторы (лицо или организация), осуществляющие работу систем искусственного интеллекта; лица, принимающие участие в регуляторном воздействии на сферу искусственного интеллекта, в том числе разработчики нормативно-технических документов, руководств, различных регуляторных положений, требований и стандартов в области искусственного интеллекта; иные лица, действия которых потенциально могут повлиять на результаты действий систем или лиц, принимающих решения с использованием систем искусственного интеллекта»14. В связи с этим возникает вопрос о возможности его использования в указанном законе. Это позволяет сделать вывод, что используемая в этическом регулировании категория «актор искусственного интеллекта» не может быть использована на законодательном уровне, поскольку слишком широко размывает предметные сферы деятельности ряда значимых субъектов в сфере искусственного интеллекта. Вопрос об определении в указанном законопроекте субъектов требует специальных научных исследований. Представляется, что в предлагаемом законопроекте целесообразно указать следующих субъектов: разработчика системы искусственного интеллекта, ее владельца, пользователя, поставщика. Вместе с тем специально должен быть определен орган государственный власти, уполномоченный осуществлять контроль в сфере создания и использования искусственного интеллекта. Введение других субъектов возможно через подзаконные нормативные правовые акты при необходимости введения специальных режимов. Возникает отдельный и, вероятно, один из наиболее сложных вопросов о возможности специального законодательного закрепления самого искусственного интеллекта (электронного лица, робота, киберфизического лица) в качестве субъекта правовых отношений15.
13. См.: Чубукова С.Г. Системы субъектов информационного права: направления цифровой трансформации // Вестник Московского ун-та. Сер. 26: Государственный аудит. 2019. № 3. С. 17 - 27; Ее же. Теоретические проблемы системы субъектов информационного права // Право и государство: теория и практика. 2018. № 12 (168). С. 101 - 105.

14. См.: Кодекс этики в сфере искусственного интеллекта. URL: >>>> (дата обращения: 20.05.2023).

15. См.: Чубукова С.Г. Квазисубъекты в киберправе // Вестник Университета им. О.Е. Кутафина (МГЮА). 2023. № 2 (102). С. 53 - 61.
29 Как уже отмечалось ранее, не менее важной проблемой, возникшей в процессе использования искусственного интеллекта и нейронных сетей, также требующей правового решения, является массовое внедрение и применение генеративного искусственного интеллекта, создающего самого разного рода тексты, изображения, аудио- и аудиовизуальные произведения на основе данных, на которых он был обучен16. Активное его внедрение в различных сферах приводит к проблеме, связанной с отказом анализировать те или иные процессы и явления, но больше доверять продуктам таких алгоритмов. Проблемным представляется вопрос о возможной замене такими технологиями различных специалистов – журналистов, специалистов в сфере рекламы, сценаристов, педагогов и др. Хотя данный инструмент может дать быстрые и простые ответы практически на любые вопросы, однако определенную тревогу вызывает то, что не ясно, как это будет влиять на развитие и навыки критического мышления, а также решение проблем быстроменяющегося мира. Опасным представляется чрезмерное доверие таким технологиям, а также достоверность информации, которая создается ими. В связи с этим нормативное правовое регулирование процесса создания алгоритмов генеративного искусственного интеллекта должно учитывать все возможные риски и угрозы.
16. См.: Асадуллина А.В., Белоусов В.С. Глобальные тренды в развитии и регулировании технологий искусственного интеллекта // Вопросы инновационной экономики. 2023. Т. 13. № 2. С. 727 - 748.
30 Проблемы и перспективы правового регулирования метавселенных. В первую очередь необходимо определить, что представляет собой метавселенная с позиции рассмотрения ее как «мира» или «совокупности миров». Данные категории наиболее часто связываются с юридическими категориями «информационное пространство», «информационная сфера» и «информационная среда». Чаще всего говорят о сфере или пространстве. Полагаем, что метавселенные с правовой точки зрения необходимо рассматривать не как сферу, в рамках которой существует неопределенная группа общественных отношений, а разновидность информационного пространства, в котором есть достаточно ресурсов и возможностей для конкретизации и учета всех существующих участников и объектов, возможность их количественной фиксации и качественных характеристик (поскольку все может быть рассмотрено как ценность, представляющая тот или иной интерес для определённых субъектов). Метавселенная как информационное пространство основывается на совокупности профилей и моделей, а также системе их взаимодействий, обеспечиваемых субъектами, создающих или погружающихся в иммерсивную среду. Поскольку фактически виртуальный мир - это исключительно информационное (цифровое) пространство, то базовые отношения по организации и функционированию данной разновидности пространства должны регулироваться нормами информационного законодательства. Данное пространство формируется на основе информационно-телекоммуникационной сети Интернет, иных сетей, информационных систем, программ для ЭВМ, баз данных и других информационных технологий, в том числе базовых цифровых технологий – виртуальной и дополненной реальности, искусственного интеллекта и нейронных сетей и др. В то же время необходимо учитывать, что в рамках метавселенной выстраивается широкий круг гражданско-правовых, трудовых, административных и других отношений. Ряд отношений связан с использованием пользователями через своих аватаров цифровых имущественных объектов, создаваемых в метавселенной. Это и объекты, имитирующие реальные объекты движимого и недвижимого имущества, а также специально создаваемые в виртуальном мире. Уже сегодня встают вопросы управления такими объектами, в том числе заключения сделок с ними, наследования и иных действий17.
17. См.: Минбалеев А.В., Титова Е.В. Правовые проблемы и риски проведения спортивных мероприятий в метавселенной // Человек. Спорт. Медицина. 2023. Т. 23. № S1. С. 139. DOI: 10.14529/hsm23s119
31 Особенностью метавселенной является предоставление возможности не просто использовать ее для работы, учебы или развлечений, но и фактически проводить в этом мире практически целый день. Возможности виртуального мира позволяют посещать различные магазины, заниматься музыкой, чтением в свободное от работы или учебы время. Разработчики таких миров стремятся к максимальной реалистичности и приближенности к реальному миру, создавая трехмерный мир. Это позволяет практически полностью заменить часть жизни, погрузившись в данное цифровое пространство. В связи с этим возникает масса возможностей с точки зрения реализации трудовых, предпринимательских, административных и других отношений. Многие государства рассматривают виртуальные миры как пространство, в котором государство может предоставлять ряд цифровых услуг, реализовывать избирательные отношения. Планируется открытие и представительств органов государственной власти, виртуальных многофункциональных центров, где через аватары пользователи смогут получать государственные услуги. Обеспечение развития системы цифрового профилирования и использования аватаров в метавселенных явно требует решения общей проблемы развития правового обеспечения цифрового профилирования18.
18. См.: Виноградова Е.В., Полякова Т.А., Минбалеев А.В. Цифровой профиль: понятие, механизмы регулирования и проблемы реализации // Правоприменение. 2021. Т. 5. № 4. С. 5 - 19; Полякова Т.А., Минбалеев А.В. Понятие и правовая природа “цифровой зрелости” // Государство и право. 2021. № 9. С. 107–116. DOI: 10.31857/S102694520016732-6; Минбалеев А.В., Титова Е.В. Цифровой профиль спортсмена: проблемы правового регулирования и защиты // Человек. Спорт. Медицина. 2021. Т. 21. № S2. С. 154 - 160.
32 В то же время данная особенность несет в себе массу рисков и угроз, поскольку человек отрывается от реальной жизни, снижается социальная и физическая активность, что неминуемо ведет к ряду социальных проблем в обществе. В связи с этим весьма важно на уровне уже концептуального регулирования отношений в метавселенных заложить необходимость на правовом уровне закрепить ряд гарантий по противодействию таким угрозам.
33 Метавселенные, бесспорно, - серьезный вызов для любого общества и государства, а возможно, и всего мирового сообщества. Ряд проблем и рисков, с которыми приходится сталкиваться при формировании общественных отношений в метавселенных, обусловливают необходимость правового регулирования данных отношений и разработки целостной системы правовых норм, в том числе на уровне актов стратегического планирования.
34 Правовое регулирование квантовых коммуникаций. В Концепции технологического развития на период до 2030 года закреплено, что технологический суверенитет подразумевает наличие в стране (под национальным контролем) критических и сквозных технологий собственных линий разработки и условий производства продукции на их основе, обеспечивающих устойчивую возможность государства и общества достигать собственные национальные цели развития и реализовывать национальные интересы. Одно из ключевых направлений развития экономики данных - формирование кластера отечественных разработок в сфере квантовых технологий. С позиции реализации и внедрения наиболее успешными считаются технологии квантовых коммуникаций. С правовой точки зрения данные технологии являются наиболее изученными. Результатом исследований в этой части, проводимых специалистами в области информационного права19, стала разработка Концепции регулирования отрасли квантовых коммуникаций в Российской Федерации до 2030 года, цель которой - определение основных подходов к развитию системы нормативного регулирования в Российской Федерации отрасли квантовых коммуникаций для обеспечения глобальной технологической конкурентоспособности. Для развития отрасли квантовых коммуникаций необходимо совершенствовать существующую регуляторную среду на основе баланса интересов человека, общества и государства, обеспечивая высокий уровень информационной безопасности. Регулирование квантовых коммуникаций должно обеспечить высокий уровень информационной безопасности в период их внедрения в существующие информационные системы и сети связи20.
19. См.: Полякова Т.А., Минбалеев А.В., Наумов В.Б. Правовое регулирование квантовых коммуникаций в России и в мире // Государство и право. 2022. № 5. С. 104 - 114. DOI: 10.31857/S102694520019763-0

20. См.: Концепция регулирования отрасли квантовых коммуникаций в Российской Федерации до 2030 года (утв. распоряжением Правительства РФ от 11.07.2023 г. № 1856-р) // СПС «КонсультантПлюс».
35 Проблемы и перспективы разработки и принятия Цифрового кодекса Российской Федерации
36 В рамках Международного юридического форума в мае 2023 г. в Санкт-Петербурге, а также на нескольких научных площадках вновь стали активно обсуждать необходимость разработки и принятия Цифрового кодекса Российской Федерации21. Вопросы систематизации, в том числе кодификации информационного законодательства, являются традиционными в науке информационного права22, но в последние годы все в большей степени данная проблема стала рассматриваться применительно к Цифровому кодексу. Хотя следует отметить, что в ноябре 2022 г. в г. Самарканде принята новая редакция Информационного кодекса СНГ.
21. См.: Немкин А. Цифровой кодекс позволит построить стройную систему работы ИТ-индустрии. URL: >>>> (дата обращения: 20.06.2023).

22. См.: Полякова Т.А. Перспективы кодификации информационного законодательства // Информационное пространство: обеспечение информационной безопасности и право: сб. науч. тр. 2018. С. 15 - 22; Ее же. Методологические подходы к систематизации информационного законодательства в условиях перехода к информационному обществу // Вестник РПА. 2007. № 4. С. 85 - 87; Фадеева Н.А. Актуальные вопросы систематизации законодательства Российской Федерации // Правовая информатика. 2013. № 3. С. 49 - 55.
37 Во многом новый виток обсуждений и постановка задач по разработке проекта Цифрового кодекса РФ стал результатом обнародования проекта Цифрового кодекса Кыргызской Республики. Разработчики Кодекса отмечают, что «принятие проекта Кодекса, объединяющего правовое регулирование и систематизацию всего технологического законодательства, позволит сформировать благоприятную нормативную правовую среду, которая заложит основы для развития цифровой экономики в Кыргызской Республике»23.
23. Проект Цифрового кодекса Кыргызской Республики. URL: >>>> (дата обращения: 20.06.2023); Цифровой кодекс улучшит оказание госуслуг в Кыргызстане. URL: >>>> (дата обращения: 20.06.2023).
38 Анализ проекта указанного Цифрового кодекса Кыргызской Республики показал, что он состоит из семи разделов, в том числе раздела «Глоссарий», объединяющих 23 главы: Основы правового регулирования в цифровой среде, Правоотношения в цифровой среде; Обработка цифровых данных. Цифровые ресурсы; Цифровые сервисы и экосистемы; Цифровые технологические системы; Заключительные и переходные положения; Глоссарий.
39 Предметом регулирования данного Кодекса выступает система отношений в цифровой среде, включающая в себя отношения, связанные с:
40 1) обработкой цифровых данных, созданием и использованием цифровых записей (в том числе в виде цифровых документов) и цифровых ресурсов;
41 2) созданием и использованием цифровых сервисов, построением цифровых экосистем и участием в них;
42 3) созданием цифровых технологических систем, таких как центры обработки данных и телекоммуникационные сети;
43 4) доступом владельцев цифровых технологических систем к инфраструктуре: землям, зданиям, строениям, сооружениям и иным аналогичным объектам24.
24. См.: Проект Цифрового кодекса Кыргызской Республики. URL: >>>> (дата обращения: 20.06.2023).
44 Анализ проекта Кодекса свидетельствует о комплексном подходе его разработчиков, которые взяли за основу зарубежные акты (акты, кодексы) о телекоммуникациях, персональных данных, цифровых сервисах и цифровых услугах. Такой вариант проекта Кодекса можно назвать сервисным, предполагающем в большей степени обеспечение оборота и использования данных, в том числе персональных, с использованием различных телекоммуникаций. Кодекс - своего рода объединение регулирования телекоммуникаций и цифровых данных, в том числе персональных. Данный подход фактически противостоит объектовому подходу, на основе которого строится регулирование использования отдельных цифровых объектов и технологий.
45 В Российской Федерации также актуальной является задача по разработке Цифрового кодекса, поэтому в науке информационного права формирование оптимальной эффективной модели такого кодекса - одно из приоритетных направлений.
46 Шестые Бачиловские чтения и перспективы развития информационно-правовых исследований в системе правовой науки
47 Современные научно-практические конференции, «круглые столы» и иные научные мероприятия во многом формируются под повестку обсуждения и выявления актуальных тенденций и направлений развития науки. Не является исключением и традиционно проводимая в стенах Института государства и права РАН Международная научно-практическая конференция «Бачиловские чтения». В 2023 г. была организована и проведена сектором информационного права и международной информационной безопасности Шестая конференция, посвященная вопросам о роли информационного права в современной парадигме отношений, правовому обеспечению информационной безопасности, включая кибербезопасность, проблемам международной информационной безопасности в условиях глобальной неопределенности, активного развития цифровых платформ и метавселенных, формирования правовых основ культуры информационной безопасности.
48 С приветственным словом к участникам конференции обратился член-корр. РАН, д-р юрид. наук, проф., заслуженный юрист РФ, директор Института государства и права РАН А.Н. Савенков. В своем выступлении он отметил важность исторической памяти относительно вклада народа СССР, права и юристов в становление миропорядка после Второй мировой войны, а также роль Института государства и права РАН в развитии права в условиях общей нестабильности и разрушения сложившихся устоев и принципов современного мира.
49 Открыла конференцию д-р юрид. наук, проф., заслуженный юрист РФ, главный научный сотрудник, и.о. зав. сектором информационного права и международной информационной безопасности ИГП РАН Т.А. Полякова, определив актуальные вопросы и круг стратегических задач развития науки информационного права в современных условиях и взаимодействия со смежными отраслями права.
50 С приветственным словом к участникам конференции также обратился д-р юрид. наук, доц., директор Белорусского института стратегических исследований О.С. Макаров, который остановился на приоритетных проблемах информационного права и правового обеспечения информационной безопасности в Республике Беларусь, стратегических задачах информационной безопасности Союзного государства России и Республики Беларусь.
51 С докладом на пленарном заседании на тему «Метаморфозы информационного права» выступил Герой Российской Федерации, космонавт, член-корр. РАН, д-р юрид. наук, проф., зав. кафедрой компьютерного права и информационной безопасности Высшей школы государственного аудита (факультет) МГУ им. М.В. Ломоносова Ю.М. Батурин.
52 Доктор юрид. наук, главный научный сотрудник сектора информационного права и международной информационной безопасности ИГП РАН В.Б. Наумов в своем выступлении на тему «Новые горизонты права и цифровой культуры: от цифрового Сталинграда к виртуальным мирам» коснулся трех важнейших направлений: сохранения культурного наследия, технологий машинного обучения, правовых проблем цифровизации и виртуальных миров.
53 В пленарной части конференции с докладом о проблемах и перспективах правового регулирования отношений в метавселенной выступил д-р юрид. наук, проф., зав. кафедрой информационного права и цифровых технологий Университета им. О.Е. Кутафина (МГЮА), главный научный сотрудник сектора информационного права и международной информационной безопасности ИГП РАН, эксперт РАН А.В. Минбалеев. Он отметил, что о метавселенной можно говорить как о виртуальном информационном пространстве, имитирующем реальную действительность и созданном с использованием средств электронно-вычислительной техники и информационных технологий, в рамках которого обеспечивается возможность реализации тех или иных потребностей и интересов субъектов посредством использования аватаров и иных цифровых профилей и моделей. А базовые отношения по организации и функционированию данной разновидности информационного пространства должны регулироваться нормами информационного законодательства.
54 Фундаментальным теоретическим проблемам информационного права, направленным на развитие доктрины информационного права, было посвящено выступление д-ра юрид. наук, проф., зав. кафедрой информационного права Уральского государственного юридического университета П.У. Кузнецова – «Типы и виды информационных правоотношений: проблемы классификации». Он остановился на вопросах оснований классификации в информационном праве. В этом качестве выбраны мегатипы, формы и виды информации как объекты информационных правоотношений. Сделан вывод об иерархичности предмета информационного права, что, по его мнению, «дает возможность лучше понять многомерность складывающихся информационных правоотношений и, следовательно, пространственное видение сложного содержания самого феномена информационного права. Структурно-сложная модель общественных отношений, складывающихся по поводу информации, представляет собой действительно многомерную модель множественных связей, типология которых пока еще глубоко не исследована». П.У. Кузнецовым выделена и особая форма (цифровая) информации в качестве основания классификации информационных правоотношений, которая создает новую среду человека как цифровую форму бытия.
55 Доктор юрид. наук, проф., профессор кафедры информационной безопасности и компьютерного права Высшей школы государственного аудита (факультет) МГУ им. М.В. Ломоносова А.В. Морозов коснулся актуальной темы соотношения информационного, компьютерного, цифрового, машиночитаемого, интернета, IT, киберправа, которая вызвала широкую дискуссию, а также теоретический и практический интерес у участников конференции.
56 Доктор юрид. наук, профессор кафедры государственного аудита Высшей школы государственного аудита (факультет) МГУ им. М.В. Ломоносова, профессор центра сравнительного правоведения Университета МГУ-ППИ в Шэньчжэне (КНР) А.А. Тедеев в своем докладе обратился к вопросу о сущности и значении принципов информационного права, которые, по его мнению, в современных условиях являются не просто ценностными ориентирами государственной правовой политики в области цифровизации, но и вектором развития соответствующей отрасли.
57 В качестве специального гостя на конференции с докладом на тему «О состоянии законодательства Республики Беларусь в сфере информатизации и основных направлениях его развития» выступил директор Национального центра законодательства и правовых исследований Республики Беларусь В.Д. Ипатов.
58 Доктор юрид. наук, проф., главный научный сотрудник центра судебного права Института законодательства и сравнительного правоведения при Правительстве РФ О.А. Степанов коснулся в своем выступлении цифровых прав личности в криптовалютной сфере, отметив, что реализация гарантий безопасности как личности, так и государства предполагает необходимость своевременного внесения изменений в уголовное и уголовно-процессуальное законодательство.
59 На конференции также выступили ведущие специалисты в области информационного права и информационной безопасности: д-ра юрид. наук А.А. Стрельцов, Л.К. Терещенко, Н.Н. Ковалева, А.А. Чеботарева, Г.Г. Камалова, Г.Г. Шинкарецкая, А.А. Ефремов, а также ученые более чем из 20 российских регионов и зарубежные участники.
60 Такое широкое представительство позволило обсудить значительное количество актуальных вопросов науки информационного права, включая проблемы доктринального характера, в том числе и развития информационного права как публично-правовой науки. В рамках конференции был проведен научный семинар для молодых ученых (по результатам выступлений будут изданы коллективная монография и сборник работ молодых ученых).
61 Заключение
62 Таким образом, проведенное исследование продолжило цикл ежегодных статей авторов, посвященных развитию информационного права, современной цифровой экономики и постепенного перехода к экономике данных. Очевидно, что требуется активизация как научных исследований, образовательных программ в сфере высокотехнологического развития, так и практической реализации, внедрения отечественных разработок, связанных с различными процессами в сфере управления данными.
63 От юридической науки современные факторы и условия развития общества и государства требуют переосмысления ряда задач и переход на более практико-ориентированный подход, предполагающий в большей мере концентрацию на осмысление и разработку реальных моделей и подходов к регулированию отношений экономики данных. Перед юридической наукой ставится задача подготовки концепций ряда актов стратегического планирования и проектов нормативных правовых актов, направленных на регулирование развивающихся технологий, а также только проектируемых и прогнозируемых. Важно уже сегодня исследовать и выявить закономерности, на основе которых строится технологическое развитие в целях обеспечения технологического суверенитета и эффективного развития экономики данных.

References

1. Asadullina A.V., Belousov V.S. Global trends in the development and regulation of artificial intelligence technologies // Issues of innovative economics. 2023. Vol. 13. No. 2. P. 727–748 (in Russ.).

2. Vinogradova E.V., Polyakova T.A., Minbaleev A.V. Digital profile: concept, regulatory mechanisms and problems of implementation // Law enforcement. 2021. Vol. 5. No. 4. P. 5 - 19 (in Russ.).

3. Egorova M.A., Minbaleev A.V., Kozhevina O.V., Duflo A. The main directions of legal regulation of the use of artificial intelligence in a pandemic // Herald of the SPbU. Law. 2021. Vol. 12. No. 2. P. 250–262 (in Russ.).

4. Kapustin A. Ya. State sovereignty in cyberspace: international legal dimension // Journal of Foreign Legislation and Comparative Jurisprudence. 2022. Vol. 18. No. 6. P. 99 - 109 (in Russ.).

5. Minbaleev A.V. The concept of “artificial intelligence” in law // Herald of the Udmurt University. Ser: Economics and Law. 2022. Vol. 32. No. 6. P. 1094 - 1099 (in Russ.).

6. Minbaleev A.V., Berestnev M.A., Evsikov K.S. Regulation of the use of artificial intelligence in the extractive industry // News of the Tula State University. Earth sciences. 2022. No. 2. P. 509 - 525 (in Russ.).

7. Minbaleev A.V., Petrovskaya O.V. Problems of implementation of the principle of reliability of information in the conditions of digital transformation // Russian legal journal. 2022. No. 4 (145). P. 20–28 (in Russ.).

8. Minbaleev A.V., Titova E.V. Legal problems and risks of holding sports events in the metaverse // Man. Sport. Medicine. 2023. Vol. 23. No. S1. P. 139. DOI: 10.14529/hsm23s119 (in Russ.).

9. Minbaleev A.V., Titova E.V. Problems of using artificial intelligence technologies in the sports sphere and legal restrictions // Man. Sport. Medicine. 2020. Vol. 20. No. S2. P. 114 - 119 (in Russ.).

10. Minbaleev A.V., Titova E.V. Digital profile of an athlete: problems of legal regulation and protection // Man. Sport. Medicine. 2021. Vol. 21. No. S2. P. 154–160 (in Russ.).

11. Naumov V.B., Kamalova G.G. Issues of constructing legal definitions in the field of artificial intelligence // Proceedings of the IGP RAS. 2020. Vol. 15. No. 1. P. 81 - 93 (in Russ.).

12. Nemkin A. Digital Code will allow to build a coherent system of IT-industries. URL: https://permkrai.er.ru/activity/news/cifrovoj-kodeks-pozvolit-postroit-strojnuyu-sistemu-raboty-it-industrii?ysclid=lks22iscte121304869 (accessed: 20.06.2023) (in Russ.).

13. New horizons of development of the Information Law system in the conditions of digital transformation / res. ed.: T.A. Polyakova, A.V. Minbaleev, V.B. Naumov. M., 2022 (in Russ.).

14. Perevalov V.D. Legal doctrine: problems of formation and implementation. M., 2023. P. 5 (in Russ.).

15. Petrovskaya O.V. The principle of reliability of information and its implementation in the information society: theoretical and legal problems // Law and the State: Theory and Practice. 2020. No. 3 (183). P. 207 - 211 (in Russ.).

16. Polyakova T.A. Methodological approaches to systematization of information legislation in the conditions of transition to an information society // Herald of the RPA. 2007. No. 4. P. 85 - 87 (in Russ.).

17. Polyakova T.A. Prospects for codification of information legislation // Information space: ensuring information security and law: collection of scientific papers. 2018. P. 15 - 22 (in Russ.).

18. Polyakova T.A., Kamalova G.G. “The law of artificial intelligence” and its place in the system Information Law // The Rule of Law: theory and practice. 2021. No. 3 (65). P. 133 - 145 (in Russ.).

19. Polyakova T.A., Minbaleev A.V. The concept and legal nature of “digital maturity” // State and Law. 2021. No. 9. P. 107 - 116. DOI: 10.31857/S102694520016732-6 (in Russ.).

20. Polyakova T.A., Minbaleev A.V., Krotkova N.V. New vectors of information law development in the conditions of civilizational crisis and digital transformation // State and Law. 2020. No. 5. P. 75 - 87. DOI: 10.31857/S013207690009678-7 (in Russ.).

21. Polyakova T.A., Minbaleev A.V., Krotkova N.V. Main trends and problems of the development of the science of Information Law // State and Law. 2022. No. 9. P. 94 - 104. DOI: 10.31857/S102694520022203-4 (in Russ.).

22. Polyakova T.A., Minbaleev A.V., Krotkova N.V. Development of the science of Information Law and legal provision of information security: formation of the scientific school of Information Law (past and future) // State and Law. 2021. No. 12. P. 97 - 108. DOI: 10.31857/S102694520017761-8 (in Russ.).

23. Polyakova T.A., Minbaleev A.V., Naumov V.B. Legal regulation of quantum communications in Russia and in the world // State and Law. 2022. No. 5. P. 104 - 114. DOI: 10.31857/S102694520019763-0 (in Russ.).

24. Polyakova T.A., Minbaleev A.V., Troyan N.A. Formation of the culture of information security of citizens of the Russian Federation in the conditions of new challenges: public-legal problems // State and Law. 2023. No. 5. P. 131 - 144. DOI: 10.31857/S102694520025209-0 (in Russ.).

25. Fadeeva N.A. Actual issues of systematization of the legislation of the Russian Federation // Legal informatics. 2013. No. 3. P. 49 - 55 (in Russ.).

26. Chubukova S.G. Quasi-objects in cyber law // Herald of Kutafin University (MSLA). 2023. No. 2 (102). P. 53 - 61 (in Russ.).

27. Chubukova S.G. Systems of subjects of information law: directions of digital transformation // Herald of the Moscow University. Ser. 26: State audit. 2019. No. 3. P. 17 - 27 (in Russ.).

28. Chubukova S.G. Theoretical problems of the system of subjects of Information Law // Law and the State: Theory and Practice. 2018. No. 12 (168). P. 101–105 (in Russ.).

29. Arkhipov V.V., Gracheva A.V., Naumov V.B. et al. Definition of artificial intelligence in the context of the Russian legal system: a critical approach // State and Law. 2022. No 1. P. 168 - 178. DOI: 10.31857/S102694520018288-7

30. Nikolskaya K., Naumov V. Artificial Intelligence in Law // 2020 International Multi-Conference on Industrial Engineering and Modern Technologies, FarEastCon 2020, Vladivostok, October 6-9, 2020. Vladivostok, 2020. P. 927–1095.

31. Polyakova T.A., Naumov V.B., Minbaleev A.V. Trust in the law during the digital transformation // State and Law. 2022. No. 11. P. 139 - 147. DOI: 10.31857/S102694520022767-4

Comments

No posts found

Write a review
Translate