Везде
Natural and artificial intelligence: dialectics of interaction and legal regulators of deviations
Table of contents
Annotation Estimate Publication content
References Comments
Share
QR
Metrics
Natural and artificial intelligence: dialectics of interaction and legal regulators of deviations
Annotation
PII
S102694520025956-2-1
DOI
10.31857/S102694520025956-2
Publication type
Article
Status
Published
Authors
Vasily I. Zhukov 
Occupation: Chief researcher of the sector of Philosophy of Law, history and theory of state and law of the Institute of State and Law of the Russian Academy of Sciences
Affiliation: Institute of State and Law of the Russian Academy of Sciences
Address: Russian Federation, Moscow
Galina Zhukova
Occupation: Professor of the Financial University under the Government of the Russian Federation
Affiliation: Financial University under the Government of the Russian Federation
Address: Russian Federation, Moscow
Edition
Issue 6
Pages
136-148
Abstract

The article examines the theoretical and legal aspects of digitalization as the main direction of socio-economic progress, reveals the dialectic of interaction between natural and constructed (artificial) intelligence, the legal subordination of robotics units and their creators. The paper systematizes the basic concepts that reveal the purpose of the main products of digitalization. Taking into account the real danger posed by the race to use artificial intelligence systems in the field of military technologies, the role of International Law as a guarantor of human security and the preservation of earthly civilization is revealed. At the same time, deviations from the norms of law are analyzed when they seek to endow robotics with legal subjectivity. In essence, the development of anthropoid systems that are not limited by the requirements of legislation represents a dangerous deviation for humanity and predetermines the increasing role of law as a universal regulator of all processes related to the development of digitalization.

Keywords
digitalization, “end-to-end” information technologies, natural intelligence, constructed intelligence, artificial intelligence, legal norms, deviations
Received
09.12.2022
Date of publication
30.06.2023
Number of purchasers
13
Views
464
Readers community rating
0.0 (0 votes)
Cite   Download pdf Download JATS
1

2

3 На рубеже тысячелетий человечество вступило в очередную промышленную и технологическую революцию1, начало которых ознаменовалось новой информатикой, математикой, крахом теории неолиберализма и либерального глобализма2. В течение двух десятилетий XXI столетия обозначились контуры цифровизации мировой экономики и замены однополюсного мира регионализацией мирового сообщества с новыми центрами силы, созданием перспективных международных объединений, в которые входит большинство стран мира, разочарованных в политике США, Англии, Евросоюза. Печальную судьбу Европейского Союза государств предвидел В.И. Ленин, написавший в августе 1915 г. статью «О Соединённых Штатах Европы». Для него не было секретом, что «Соединённые Штаты Европы при капитализме либо не возможны, либо реакционны»3. Он не исключал «временные соглашения… между державами», но такое объединение рассматривал как способ «сообща давить социализм в Европе» и «сообща охранять награбленное»4. Идея Соединённых Штатов Европы воплотилась в создании Совета Европы, но предвидение В.И. Ленина о том, для чего могут объединяться европейские государства и к чему стремятся, подтвердилось в наши дни.
1. См. подр.: Жуков В.И., Жукова Г.В. Экономика и социология системных кризисов: глобальный характер и национальные особенности. М., 2013; Их же. Глобальный кризис и проблемы социального обновления России. М., 2009; и др.

2. См. подр.: Жуков В.И. Социальное развитие России: историко-социологическая компаративистика: в 3 т. М., 2012. Т. 2. С. 12 - 94.

3. Ленин В.И. Полн. собр. соч. Т. 26. С. 352.

4. Там же.
4 Новый импульс цивилизационным сдвигам придаёт способность государств использовать цифровизацию для экономического, социального, демографического и духовного прогресса. Наибольшими шансами в этом отношении располагают Российская Федерация и КНР, экономика которых незаменима и базируется на самодостаточных и взаимодополняющих ресурсах.
5 В Российской Федерации ведущая роль принадлежит «сквозным» цифровым технологиям, которые определены рядом нормативных правовых актов, в том числе указами Президента РФ В.В. Путина, постановлениями и распоряжениями Правительства РФ, нормативными документами федеральных органов власти, а также органов субъектов Российской Федерации. К числу сквозных цифровых технологий относятся: 1. Технологии искусственного интеллекта и нейротехнологии; 2. Компоненты робототехники и сенсорика; 3. Технологии виртуальной и дополненной реальностей; 4. Новые производственные технологии; 5. Системы распределённого реестра; 6. Технологии беспроводной связи; 7. Квантовые технологии.
6 Первоначально Министерством цифрового развития, связи и массовых коммуникаций РФ были разработаны шесть проектов, которые вошли в паспорт Национальной программы под названием «Цифровая экономика Российской Федерации»5. Седьмой проект под названием «Искусственный интеллект» появился в 2020 г.
5. Жуков В.И., Раттур М.В. Некоторые вопросы трансформации права в эпоху цифровизации: действующие нормы, отклонения и вектор развития // Государство и право. 2022. № 10. С. 129 - 140.
7 С юридической точки зрения теоретической и гносеологической основой изучения правового статуса всех субъектов цифровизации являются информационное право, накопленный историко-правовой опыт его возникновения, развития, переосмысления и тенденций дальнейшей трансформации.
8 Исследователями различных направлений уделяется большое внимание проблемам искусственного интеллекта. Обширная библиографическая справка, в которую вошли труды отечественных и зарубежных авторов составлена П.М. Морхатом6. Особенность его подхода состоит в том, что работа отечественных исследователей приводится без анализа их достижений или упущений, а ссылки на зарубежных авторов отличаются масштабным цитированием без критического анализа. Аналитический разбор феномена с позиции теории права остаётся важной, но мало исследованной темой.
6. См.: Морхат П.М. Искусственный интеллект: правовой взгляд. М., 2017. С. 14 - 36.
9 Родоначальником искусственного интеллекта принято считать средневекового испанского философа, математика и поэта Раймонда Луллия, который еще в XIII в. пытался создать механическое устройство для решения различных задач на основе разработанной им всеобщей классификации понятий7. Термин «искусственный интеллект» появился в 40-х годах ХХ в. Его появление учёные связывают с именем Норберта Винера, который опубликовал работы, заложившие основы новой науки – кибернетики. На самом деле этот термин впервые использовал Дж. Маккарти в 1956 г. на семинаре в Дартмутском колледже (США)8.
7. См.: Баровская Е.В., Давыдова Н.А. Основы искусственного интеллекта: учеб. пособие. 4-е изд., электронное. М., 2020. С. 5.

8. См.: Рассел Ст., Норвиг П. Искусственный интеллект: современный подход / пер. с англ. 2-е изд. М., 2017. С. 54 - 56.
10 В СССР проблемы искусственного интеллекта интенсивно изучались в 50-х годах в МГУ им. М.В. Ломоносова. Отечественная научная школа академического уровня сформировалась к середине 60-х годов, а научный совет по проблемам искусственного интеллекта при Президиуме АН СССР был создан под председательством Д.А. Поспелова в 1974 г.9
9. См. подр.: Баровская Е.В., Давыдова Н.А. Указ. соч. С. 6, 11, 12.
11 «Система искусственного интеллекта, - по мнению авторов учебного пособия Е.В. Баровской и Н.А. Давыдовой, - это программная система, имитирующая на компьютере процесс мышления человека»10. Предложенное авторами определение существенно ограничивает реальное содержание понятия. Очевидно, это осознавали и сами авторы, поскольку дали еще одно определение: «Искусственный интеллект - это направление информатики, целью которого является разработка аппаратно-программных средств, позволяющих пользователю-непрограммисту ставить и решать свои традиционно считающиеся интеллектуальными задачи, общаясь с ЭВМ на ограниченном подмножестве «естественного языка»11.
10. Там же. С.5.

11. Там же.
12 По мнению других исследователей интеллект – это «проявление когнитивных способностей, обычно присущих человеку»12. Развивая эту мысль, И.А. Филипова замечает «способность искусственных интеллектуальных систем проявлять когнитивные способности: обучаться.., подстраиваться под заданные параметры и выполнять задачи, которые раньше были доступны только человеку или высшим животным»13. Вслед за экспертами Европейской комиссии она поясняет: «Искусственная интеллектуальная система – это программно-аппаратный комплекс, способный решать творческие задачи, относящиеся к конкретным предметным областям, знания о которых хранятся в памяти. Искусственная интеллектуальная система способна выполнять задачи в изменяющихся, непредсказуемых обстоятельствах без контроля со стороны человека, она в состоянии обучаться, совершенствуя свои параметры»14.
12. Филипова И.А. Влияние цифровых технологий на труд: ориентиры для трудового права. Н. Новгород, 2021. С. 17.

13. Там же.

14. Там же.
13 Одно из лаконичных определений сущности искусственного интеллекта принадлежит Л.С. Болотовой, которая понимает его как «некоторую искусственную (компьютерную) систему, способную имитировать интеллект человека, т.е. его способности получать, обрабатывать, хранить информацию и знания и выполнять над таковыми различные действия, совокупно называемые мышлением»15.
15. Болотова Л.С. Системы искусственного интеллекта: модели и технологии, основанные на знаниях: учеб. М., 2012. С. 31.
14 Зарубежная печать наполнена множеством определений искусственного интеллекта, обстоятельный анализ которых содержится в трудах П.М. Морхата16. На основе работ зарубежных учёных он пришёл к выводу о том, что искусственный интеллект представляет собой полностью или частично автономную самоорганизующуюся компьютерно-аппаратно-программную или киберфизическую, в том числе биокибернетическую систему, наделённую многочисленными способностями и возможностями. В их числе П.М. Морхат называет антропоморфно-разумные мыслительные и когнитивные действия; самореферентность, саморегулирование и самоограничение; обучение и самообучение и т.д.17 Это определение, безусловно, обширно, но оно обильно по совокупности идей, заложенных автором в раскрытие сущности искусственного интеллекта. Скажем сразу: если искусственный интеллект будет обладать теми возможностями, который перечислил П.М. Морхат, места человеку на Земле не останется.
16. См.: Морхат П.М. Указ. соч. С. 7 - 68.

17. См.: там же. С. 69.
15 Сущность искусственного интеллекта исследователи определяют так: «Искусственный интеллект (ИИ) – это совокупность действий в области знаний, технологий, производств, направленных на создание компьютерных программ, способных решать те или интеллектуальные задачи, которые сейчас могут быть решены только человеком»18. При этом В.В. Овчинников, автор этого определения, замечает: «Пока реальный интеллект демонстрируемый самыми сложными нейронными сетями, находится ниже уровня «интеллекта» дождевого червя, и энтузиазм должен быть умерен в соответствии с современными реалиями»19. При этом он не исключает, что скоро «люди научатся создавать большие нейронные сети, объединять их в системы и в конечном счёте получать более совершенные способы совершенствования интеллектуальной силы человека»20, а дальнейшее развитие цивилизации «пойдёт, видимо, по пути слияния интеллекта человека и искусственного интеллекта с помощью конструктора конвергенции самых разных технологий»21.
18. Овчинников В.В. Дорога в мир искусственного интеллекта. М., 2017. С. 15.

19. Там же. С. 17.

20. Там же.

21. Там же. С. 19.
16 В буквальном переводе с английского искусственный интеллект – это «наука и технология создания интеллектуальных инструментов»22. Однако в таком формате искусственный интеллект не комментируется. Он фактически сразу стал приобретать антропоморфную окраску. В этом направлении дрейфовали, набирая ускорение, роботы. Их создатели в плотную приблизились к пониманию того, что роботы будут обладать искусственным интеллектом, аналогичным естественному. При этом создателей роботов антропоморфного вида нисколько не смущает то, что они не просто заменят человека в каких-то областях, но и способны вытеснить его из эволюционного цикла.
22. Там же. С. 29.
17 Опасность кроется в возможном осознании искусственным интеллектом своего превосходства над Человеком со всеми губительными для цивилизации последствиями. Люди могут утратить не только жизненный комфорт, но и право на земное существование.
18 Может ли наметившийся прогресс сохранить антропоцентричность? Может, если развитие искусственного интеллекта будет регулироваться международным правом и национальным законодательством. Однако сейчас угроза утраты антропоцентричности не осознана, и цивилизация приближается к той точке, когда угроза господства робота пересекает «красную линию». За ней возможен антицивилизационный террор.
19 «Подрывной» потенциал стихийного развития «сквозных» технологий должен блокироваться правовыми регуляторами в рамках заинтересованности национальных властей и мирового сообщества в соблюдении прав Человека. Иными словами, замена Человека возможна там, где искусственный интеллект не создаёт опасности для существования его создателя.
20 В реальном секторе мировой экономики процессы цифровизации развиваются стремительно. Широчайшее применение роботы нашли в реальном производстве, а их количество в перерасчёте на 10 тыс. работников является показателем индустриального прогресса страны. По данным на 2015 г. картина такова23:
23. См.: там же. С. 160.
21 Южная Корея - 531 Сингапур – 398 Япония – 305 Германия – 301 Тайвань – 190 США -176 Италия – 160 Швейцария -190 Сербия -110 Чехия - 93 Англия -71 Китай – 49
22 В 2015 г. в мире в расчёте на 10 тыс. работников в среднем приходилось 49 роботов. Это было время, когда по этому показателю Россия занимала не достойное её место – 1 робот на 10 тыс. работников. К концу 2021 г. в Германии и Южной Кореи количество роботов достигло 700-800 единиц на 10 тыс. работников, в мире в среднем – 113 единиц, в России – только 624.
24. См.: [Электронный ресурс]. - Режим доступа: URL: >>>> (дата обращения: 14.08.2022).
23 Существенно отставая от других стран в области применения робототехники на производстве и в сфере услуг, Россия занимает лидирующие позиции в создании вооружений с использования систем искусственного интеллекта.
24 II
25 Крупнейшие специалисты в области изучения искусственного интеллекта Ст. Рассел и П. Норвиг считают, что «всех исследователей искусственного интеллекта должны заботить этические последствия их деятельности»25. Заметим: не этические нормы искусственного интеллекта, чего нельзя достичь, а материальные, технологические, моральные и этические последствия разработок учёных, что можно контролировать, но при иной степени зрелости цивилизации, чем это наблюдается сейчас. Не случайно Ст. Рассел и П. Норвиг предупреждают: «Если последствия создания технологии искусственного интеллекта… будут отрицательными.., то люди, работающие в этой области, несут моральную ответственность, обязывающую их направить свои поиски в другие области»26.
25. Рассел Ст., Норвиг П. Указ. соч. С. 1248.

26. Там же. С. 1266.
26 Не следует питать иллюзий по поводу того, что «моральная ответственность» остановит разработчиков систем искусственного интеллекта, любого, в том числе кровожадного назначения. Не будут они, исходя из меркантильных интересов, менять доходные направления исследовательского поиска на альтруистские. Вывод из этого один: допустимые и безопасные для человека свойства искусственного интеллекта должны регламентироваться международным правом.
27 Носители искусственного интеллекта сами по себе не станут агрессивными, если такую программу в них не заложат люди. Иное произойдёт тогда, когда юниты27 искусственного интеллекта начнут сами решать, кого любить, а кого ненавидеть. Что в таком случае произойдёт, можно судить по книге Мэри Шелли, пьесе Карла Чапека и множеству кинолент типа «Терминатор». По этому поводу Вернор Виндж (американский писатель-фантаст) пишет: «В течение тридцати лет люди получат технологические средства для создания сверхчеловеческого интеллекта. Вскоре после этого эра людей закончится»28. Даже если созданный по образу и подобию человека искусственный интеллект будет носителем колоссальных (и не только созидательных) возможностей, то нет никаких гарантий, что он будет нравственной копией Л.Н. Толстого, а не злодеев типа А. Гитлера, Пол Пота или Ст. Бендеры.
27. Юнит - полностью или частично автономно самоорганизующая (самоорганизующаяся) компьютерно-аппаратно-программная виртуальная или киберфизическая, в том числе биокибернетическая, система.

28. Цит. по: Рассел Ст., Норвиг П. Указ. соч. С. 1270.
28 Человечество пока не считает трансгуманизм своим идеалом и когда осознает своё божественное предназначение сказать трудно: пока по заветам спасителя не живут даже некоторые церковные иерархи, не говоря уже о значительном количестве католической паствы и неформалов самых различных ориентаций. Примечательно, что папа римский призвал молиться за искусственный интеллект. Естественно, некоторые верующие посчитали, что он усомнился в божественном происхождении человека.
29 Надежда на то, что в роботы с сильным искусственным интеллектом можно «заложить» моральный кодекс, и они начнут его соблюдать – иллюзия. Действовать так, как писал об этом А. Грин, мечтает Айзек Азимов или изображал в своих картинах Спилберг, они не будут. Загадкой остаются и глубины мозга, и сознание человека, его мышление, мотивы поведения и сюрпризный сильный искусственный интеллект.
30 Вероятно, на каком-то этапе будет сохраняться доминирование естественного интеллекта, затем наступит период усиления возможностей человека за счёт использования технологических достижений, наконец, искусственный интеллект приобретёт ускорение в своём развитии. Без ответственного правового регулирования шансов сохранить равновесие у Человека нет.
31 Цивилизация стоит перед выбором: усиление интеллектуального потенциала машин или расширение возможностей людей с помощью систем искусственного интеллекта. Обе версии ведут в диаметрально противоположные миры…
32 Норберт Винер на заре компьютеризации «видел блага автоматизации в избавлении людей от тяжёлой работы, но беспокоился, что это … технология может поработить человечество». Прошедшие десятилетия лишь обострили двойственность, на которую он первым обратил внимание29.
29. См.: Маркофф Дж. HOMO ROBOTICUS? Люди и машины в поисках взаимопонимания / пер. с англ. М., 2016. С. 374.
33 Один из футурологических сюжетов, который изложил Дж. Баррат, сводится к описанию смены власти, т.е. передачи её от человека машинам. Она, по его мнению, будет происходить добровольно, по взаимному согласию и представлять собою именно передачу, а не захват30. При этом Дж. Баррат не исключает, что в этот эволюционный процесс может вмешаться загадочный продукт цивилизации – искусственный интеллект. «Компьютерные системы, - предупреждает он, - способны действовать с человеческой разумностью», но могут «вести себя не предсказуемо»31. «Нашему биологическому виду, - замечает Дж. Баррат – предстоит смертельная схватка», а «человечество потеряет контроль над собственным будущим»32. С его точки зрения, поведение искусственных разумных систем может оказаться не совместимым с нашим выживанием33.
30. См.: Баррат Дж. Последнее изобретение человечества: искусственный интеллект и конец эры Homo sapiens / пер. с англ. Н. Лисовой. М., 2015. С. 10.

31. Там же.

32. Там же. С. 11.

33. См.: там же.
34 Когда, по мнению учёных, возникнет реальная опасность? По всей вероятности, в момент, когда юниты искусственного интеллекта почувствуют опасность их отключения от источника функционирования. В такой ситуации они позаботятся о том, чтобы их никто не отключил от источника энергии, а также о том, как обезопасить себя от внешнего воздействия, улучшить (разнообразить) ресурсы и стать на путь самосовершенствования. Вероятно, не только эволюционного и лояльного по отношению к другим обитателям природы. И флоры, и фауны. Отсюда вывод: создатели искусственного интеллекта должны думать о том, насколько дружелюбным по отношению к своему создателю будет искусственный суперинтеллект. Предметом его размышлений станет ответ на вопрос: в каком качестве он может использовать своего творца с наибольшей выгодой для себя. Угрызение совести он, естественно, испытывать не будет. Заботиться о том, чтобы программа поведения юнитов искусственного интеллекта включала в себя этические нормы морали, нужно на стадии разработки. За пределами этого процесса человек искусственному интеллекту не понадобится даже для того, чтобы мыть полы. Антропоморфизация искусственного сильного интеллекта – это заблуждение, не совместимое с теорией цифровизации.
35 К обязательному для соблюдения всеми законодательству государства должны прийти раньше, чем их превзойдёт по всем параметрам сильный искусственный интеллект. Появление совершенного искусственного интеллекта – время будущего, но не отдалённого.
36 Стив Омохундро, учёный с мировым именем, убеждён, что «без тщательнейшего программирования все достаточно разумные ИИ будут смертоносны»34. Есть все основания полагать, что без должного международного правового контроля интеллектуальный бум превратиться в интеллектуальный взрыв, который добром для человечества не закончится.
34. Цит. по: там же. С. 83.
37 Пол Дэвис, крупнейший физик-теоретик, предложил отказаться от термина «искусственный интеллект», заменив его на понятие «спроектированный интеллект». Мысль о том, что у машины, начинённой проводами, могут быть права, Пол Дэвис назвал абсурдной35. Он же спроектировал несколько сценариев будущего. В первом из них люди должны воздерживаться от самоусовершенствования и отказаться от гегемонии в пользу спроектированного интеллекта. Во втором люди должны модифицировать собственные мозги, используя ту же технологию, что и при создании спроектированного интеллекта. В третьем варианте возможно слияние спроектированного интеллекта с дополненным человеческим интеллектом36.
35. См.: Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте / пер. с англ. М., 2017. С. 49 (далее - Что мы думаем о машинах, которые думают…).

36. См.: там же. С. 50.
38 Помимо алармистских предсказаний, философских ересей и конъюнктурных версий есть вполне обоснованные требования к разработчикам систем искусственного интеллекта: конструируемые ими образцы должны быть функциональны, надёжны, полезны, управляемы и, самое главное, они должны соответствовать нормам права в интересах информационной безопасности. Использование систем сконструированного интеллекта должно отличаться технологической мощью и правовой беспроблемностью. Управлять такими системами могут не те, кто сильнее, а те, кто умнее. Искусственный интеллект может быть сильнее Человека, но не должен быть умнее своего создателя.
39 Фрэнк Вильчек, лауреат Нобелевской премии по физике, высказал исключительно ценные пожелания: «Если бы специалисты в области искусственного интеллекта приняли на себя коллективные обязательства воздерживаться от секретных исследований, это стало бы важным шагом для развития отрасли»37. Рассчитывать на то, что исследователи и их заказчики сделают это добровольно и солидарно, не приходится. Отсюда вытекает ещё один аргумент: необходимо принятие норм, гарантирующих торжество не корыстных или милитаристских интересов, а систему абсолютной международной безопасности.
37. Там же. С. 143.
40 Мартин Рис, в прошлом президент королевского научного общества, профессор Кембриджского университета, прав в своём предположении: «Потенциал продвинутого искусственного интеллекта и опасения по поводу негативных сторон его развития становится всё более актуальным»38. Не исключено, замечает он, что «в долгосрочной эволюционной перспективе люди… станут всего лишь примитивной переходной формой, предшествующей более глубокому мышлению новой машиноориентированной культурой, простирающейся в отдалённое будущее и далеко за пределами Земли»39.
38. Там же. С. 31.

39. Там же. С. 31, 32.
41 В отдалённом будущем некоторые учёные, например Димитар Сасселов, видят не Человека, сохранившего современные интеллектуальные, физиологические и другие качества, а некий «гибрид биологического существа и машины»40.
40. Там же. С. 37.
42 Искусственный интеллект – это сфера господства математики, физики, теории вычислительных систем. По отношению к философии и, особенно, праву наблюдается пессимизм. Даже учёный-энциклопедист Ник Бостром допускает возможность привлечения к разработке проблем искусственного интеллекта величайших умов современности41, но ни слова не говорит о праве и юриспруденции.
41. См.: там же. С. 147.
43 Набор философско-правовых девиаций полнее других изложил Моше Хоффман: «Системы права и государственного управления – как раз то, чего следует ожидать, если мораль искусственного интеллекта будет формироваться под воздействием личных мотивов»42. Интеллектуальной расшифровке эта наукоподобная сентенция не поддаётся, поскольку естественный интеллект предстал как жалкое подобие искусственного. Моше Хоффману не удалось вложить смысл в собственное изречение, поскольку он исходит из того, чего нет: он объявляет постулатами наличие у искусственного интеллекта души, сознания, способность чувствовать боль, боговдохновенные законы и т.д.43
42. Там же. С. 181.

43. Что мы думаем о машинах, которые думают... С. 181, 182.
44 Помела Маккордак разочаровалась в тех способностях, которыми Господь Бог наделил Человека и выразила готовность «обратиться к собственному улучшенному и дополненному разуму». Далее она заметила: «Мы берём на себя ответственность за собственное будущее. Мы берём на себя роль богов, … и у нас есть надежда преуспеть в этом»44.
44. Там же. С. 73.
45 Одно из наименее продуманных направлений деятельности – определение сущности и наделение субъектностью робота, киборга и т.д. Физики, математики, другие разработчики систем искусственного интеллекта меньше всего озабочены осмыслением проблем сущности, субъектности, правового статуса и т.д. Интерпретациями на эти темы напористо и агрессивно занимаются философы и психологи, а также часть правоведов. Схоластические размышления на тему наделения систем искусственного интеллекта субъектностью сводятся к выявлению у роботов, киборгов и т.п. следующих свойств, качеств и «похожестей»: физиологическое подобие, похожесть на людей в диапазоне от внешности до поведения; развитое самосознание; эгоистическая позиция, забота о собственной безопасности45.
45. Там же. С. 183 - 185.
46 Размышления на эту тему можно вести сколь угодно долго, но для экономии времени желательно философствующим любителям искусственного интеллекта ответить на один вопрос: зачем? Зачем искусственному интеллекту правовой статус?
47 Некоторые исследователи дают человечеству оригинальные советы: человеку нужно «слиться с кибернетической цивилизацией, загрузив исчерпавший лимит роста биологический мозг в быстро развивающийся кибернетический»46. Комментарий к такой сентенции можно найти у Амоса Тверски. Когда его спросили, что он думает об искусственном интеллекте, он ответил, что плохо в этом разбирается, поскольку не специализируется на тупости47.
46. Там же. С. 402, 403.

47. См.: там же. С. 491.
48 Не остаются в стороне от осмысления диалектики взаимодействия естественного и сконструированного интеллекта отечественные учёные. А.В. Кузнецова, С.И. Самыгин и М.В. Родионов ставят исключительно опасную по своим последствиям задачу – создать человекоподобные интеллектуальные системы, способные догнать и превзойти своих создателей48. Представляя этот путь развития информационного процесса как фатальный, они убеждают читателя в том, что «этот процесс необратим, и на его пути человечество достигло определённых результатов»49.
48. См.: Кузнецова А.В., Самыгин С.И., Родионов М.В. Искусственный интеллект и информационная безопасность общества. М., 2017. С. 107.

49. Там же.
49 Нет сомнений в том, что на пути создания полезных и безопасных интеллектуальных систем человечество достигло определённых результатов, но пока ещё не осознало, что при определённых условиях итогом технологического процесса может стать самоистребление человечества. «Формализация творческих процессов», о которых пишут авторы, может завершиться утилизацией Человека разумного в самых разных формах. В том числе в виде источника энергии для антропоподобных искусственных интеллектуалов. Замечание о том, что создание всё более интеллектуальных искусственных систем должно сопровождаться «совершенствованием человеческого разума»50 будет слабым утешением для жертв технологического прогресса.
50. Там же. С. 108.
50 Информационное общество не является новым типом формационного уклада. Это лишь очередной этап в развитии человеческой цивилизации. Оно не характеризуется, как считают некоторые авторы, «господством информации и её тотальным влиянием на сознание и поведение индивидов51. Это всего лишь созданный Человеком новый ресурс социально-экономического, технологического и духовного прогресса. При ином отношении к искусственному интеллекту можно достичь глобального превосходства антропоподобных роботов и установления их господства в формах, более губительных, чем власть олигархов. Можно согласиться с тем, что «информационные технологии… оказывают влияние на сознание и поведение человека»52, но нельзя допустить, чтобы они определяли «жизненный стиль личности и общества, характер отношений и взаимодействия», а тем более «тенденции в области развития, экономики, политики, культуры, образования т.д.»53. Можно понять допущенную гиперболизацию с точки зрения конъектурной сообразительностью, но наука тем и отличается от публицистика, что призвана формировать ответственные отношения к реальной картине мира, а не навязывать сенсационные восприятия новых цивилизационных форм бытия.
51. См.: там же. С. 4.

52. Там же.

53. Там же.
51 Было бы замечательно, если бы искусственный интеллект ограничился своим доминированием над Человеком только в области решения технологических или социальных проблем. Но по праву сильного он может расширить сферу своего господства до границ, очертания которых определить никто не может. Особую опасность представляет стремление создать системы, построенные на основе «копирования биологических и психологических способностей носителя интеллекта естественного»54. Психические способности включают в себя не только возможности естественного интеллекта пользоваться туалетом, но и сострадать, завидовать, ненавидеть, любить и т.д. Какую часть этих и других способностей инкорпорирует в свой арсенал искусственный интеллект, как отнесётся к тем, кто ему не нравится? В какой форме он будет проявлять зависть, любовь или ненависть? Нельзя ли в таком случае, работая над системами искусственного интеллекта, ограничиться разработкой информационно-технических программ, не вторгаясь в область эмоций? Будет ли соблюдать моральные нормы искусственный интеллект, если этого не делает его создатель?
54. Там же. С. 6.
52 Способность той или иной автоматизированной системы обрабатывать единицу времени больше информации, чем мозг обычного Человека, не означает того, что ей нужны интеллект или, что ещё важнее, мышление. Для формирования теории цифровизации как определённой стадии цивилизационного прогресса такое понятие, как «искусственный интеллект», не требуется. Более того, использование этого термина фальсифицирует процесс познания, поскольку когнитивные функции или психические эмоции имеют свою, естественную среду происхождения, существования и развития. Способность накапливать, обрабатывать и систематизировать колоссальные объёмы данных – функции технических средств управления. Само же управление – сфера деятельности не технических инструментов, а человека разумного. Было бы правильным заменить его термином «сконструированный интеллект».
53 Способность информационных систем имитировать интеллектуальную деятельность вполне вписывается в известную формулу: быть или казаться. Жонглирование словами «слабый» или «сильный искусственный интеллект» не обогащает ни одну область знаний: ни философию, ни право, ни теорию управления. Возможность отстранения человека от принятия стратегических решений, как об этом верно замечают А.В. Кузнецова, С.И. Самыгин и М.В. Родионов, «это не достижение цивилизации, а один из самых коротких путей её гибели»55.
55. Кузнецова А.В., Самыгин С.И., Родионов М.В. Указ. соч. С. 22.
54 В авторском понимании диалектика взаимодействия естественного и сконструированного интеллекта имеет выраженную научно-техническую субординацию: параметры цифровизации регулируются законодательством; теоретическим осмыслением нового этапа цивилизационного прогресса занимаются специалисты в области философии и права. Гносеологические основы искусственного интеллекта – математика, информатика и информационные процессы; прикладная область – использование научных достижений во всех отраслях производства товаров и оказания услуг. Инструмент решения глобальных инженерно-технических и других проблем – компьютерная сеть; гарант безопасного для человека варианта развития искусственного интеллекта – право, определяющее параметры допустимого и блокирующее опасные для человечества варианты роботизации.
55 Выходить за пределы такого понимания диалектики естественного и сконструированного интеллекта преждевременно: человечество ещё не проникло в тайны мышления, не знает, как это происходит в рамках естественного интеллекта и не может экспериментировать в сфере мышления за его пределами, не опасаясь за свою собственную судьбу. Венец Творения не должен своей неразумностью создавать новую цивилизацию, в которой ему не будет места.
56 Правовой статус сконструированного интеллекта, наделения его обязанностью соблюдать этические нормы поведения, не использовать людей в качестве биологической энергии и т.д. – всё это относится к разряду неестественных предположений, что также девиантно, как однополые браки, зоофилия и прочие отклонения от норм.
57 Следует заметить, что те или иные функции мозга можно воплотить в определённые формы (распознавание номеров движущихся автомобилей, выявление из людского потока тех или иных лиц, сенсорные датчики, голосовое управление техническими системами, речевой набор текстов на компьютере и т.д.). При всём своём изобилии такие функции технических средств аутентичны некоторым проявлениям мозга. Аутентичны, но не подобны ему.
58 Представление о Человеке как предшественнике «кибернетического» человека56 не просто разрушает всё, что науке известно об эволюции живой природы, но и психологически готовит восприятие Человека себя как предшественника киборга. Между тем дискуссия о том, будет ли кибернетическое существо считаться личностью, уже началась57.
56. См.: там же. С. 77.

57. См.: там же.
59 Информационное общество, ядро которого составляет цифровизация, включает в себя все компоненты государственности и сферы общественной жизнедеятельности. При этом цифровые технологии, в том числе сконструированный искусственный интеллект, робототехника, нейропротезы и т.д. не должны сопровождаться разрушением биологической природы Человека и заменой его «кибернетическими существами». Понятен соблазн части работодателей, не обременённых государственной ответственностью за сохранение Венца Творения, «роботизировать» все циклы хозяйственной деятельности, но за демографическое состояние общества отвечает власть, обладающая всеми возможностями для контроля за соблюдением базовых критериев развития цивилизации (рождаемость, здоровье и качество жизни, сохранение традиционных ценностей, божественное предназначение человека и т.д.). Социальный успех, достигаемый в ходе построения информационного общества, не должен создать угрозу существованию сообщества наций и народов. Считать, что безопасность «характеризуется полным отсутствием угроз и рисков для жизнедеятельности социальных субъектов»58 можно, но гораздо важнее представлять состояние и взаимодействующие части того механизма, который её создаёт. А это – право, правоприменительная практика, образование, воспитание и общественная мораль.
58. Кузнецова А.В., Самыгин С.И., Родионов М.В. Указ. соч. С. 92.
60 III
61 Состояние законодательства в сфере искусственного интеллекта в отечественной литературе квалифицируется как неудовлетворительное59. Нельзя не согласиться с тем, что «бурное развитие технологий и юнитов искусственного интеллекта обусловливает необходимость адекватного и своевременного развития соответствующего законодательного регулирования в этой области60. Но что или кто является субъектом права и чьи интересы, чью собственность нужно регламентировать законодательством? Создателя систем искусственного интеллекта или его юнитов? Рискну предположить, что первое имеет правовое выражение, второе представляет собой юридическую ересь или, как говорил В.В. Лунеев, юридический мусор.
59. См.: Морхат П.М. Указ. соч. С. 11.

60. См.: там же. С. 39.
62 П.М. Морхату принадлежит профессионально точное определение назначения законодательства и правоприменительной практики в части, касающейся «юнитов искусственного интеллекта»: «Эффективное правовое регулирование в сфере разработки и использования юнитов искусственного интеллекта необходимо для обеспечения того, чтобы такие искусственные интеллектуальные системы, во-первых, гармонично сосуществовали с людьми.., во-вторых – чтобы они соответствовали человеческим потребностям и ценностям, чтобы они были способны адаптироваться к таковым»61. И хотя подобное определение встречается во многих работах зарубежных авторов, вклад П.М. Морхата в их анализ несомненен. Очевидно и другое: предположение П.М. Морхата о том, что системы искусственного интеллекта способны адаптироваться к ценностям человека, фантастично. Более того, это нежелательно по определению.
61. Там же. С. 70.
63 В юридической практике юниты искусственного интеллекта могут быть задействованы в системе информационно технического обслуживания всех отраслей права и видах правоприменительной практики. В том числе в техническом сопровождении деятельности законодательных, исполнительных и правоохранительных органах, образовании, просвещении, консультировании, каталогизации и т.д. Всё это уже широко применяется, обогащаясь всё более совершенными электронными и техническими средствами. Все виды профессиональной деятельности работников правоохранительной сферы, особенно дознавателей и криминалистов, использующих юниты искусственного интеллекта, перечислить невозможно. При этом следует подчеркнуть, что использование названных юнитов не вызывает опасений до тех пор, пока они выполняют роль помощника человека.
64 Что же касается дискуссии о возможности выполнения юнитом искусственного интеллекта обязанности и полномочий судей62, то этот сюжет можно и нужно рассматривать с точки зрения маловероятной перспективы. Об этом пишет и сам П.М. Морхат, по мнению которого «при разработке и принятии… законодательства следует учитывать не только существующие положения дел, но и потенциально возможные в будущем перспективные угрозы соблюдению и защите прав и свобод человека»63.
62. См.: там же. С. 105, 106.

63. Там же. С. 193.
65 С точки зрения международного права проблемы параметров и случаев использования юнитов искусственного интеллекта в различного рода вооружениях до сих пор не урегулированы, а соглашения по этому вопросу вряд ли возможны. Все государства в той или иной мере находятся в конфликтных отношениях либо в состоянии войны. Норм, при помощи которых страны контролируют разработку атомного оружия различного назначения, в сфере боевого применения юнитов искусственного интеллекта нет. Гонка вооружений в этом направлении представляет для человечества гораздо большую опасность, чем атомное оружие. Понимая это, Синьпин Сун, профессор Сианьской политической академии и координатор Кампании против роботов-убийц, предупреждает: «Нам неизбежно придётся двигаться в сторону достижения международных договорённостей, регулирующих разработку и применение смертоносных автономных систем, чтобы иметь возможность контролировать сферы их применения и придерживаться гуманитарных принципов»64. Разработка международных стандартов безопасности изготовления и использования боевых роботов с искусственным интеллектом исключительно актуальна, но пока утопична.
64. См.: Индекс безопасности. 2016. Т. 22. № 3 -4. С. 81.
66 Прежде чем реформировать законодательство, следует определить правовое содержание основных категорий теории цифровизации, сквозных информационных технологий, искусственного интеллекта и его юнитов. П.М. Морхат, безусловно, прав в своём утверждении: «Юнит искусственного интеллекта всегда должен быть фидуциаром65 человека»66.
65. В буквальном смысле фидуциарий - это лицо, взявшее на себя обязательство действовать от имени и по поручению другого лица в конкретном деле в обстоятельствах, которые порождают отношения доверия.

66. Морхат П.М. Указ. соч. С. 255.
67 Для правоведов характерно особое внимание к проблемам правового регулирования интеллектуальной собственности, которая создаётся с использованием юнитов искусственного интеллекта. Смысл дискуссий, в основном, сводится к признанию или отрицанию юнита искусственного интеллекта в качестве субъекта права индивидуальной собственности67, поскольку право якобы «безнадёжно отстало от развития технологий в сфере искусственного интеллекта»68.
67. См.: Морхат П.М. Право интеллектуальной собственности и искусственный интеллект. М., 2018. С. 12.

68. Там же. С. 14.
68 В январе 2017 г. был опубликован Доклад Европейского парламента, содержавший рекомендации, вытекающие из влияния искусственного интеллекта на стандарты гражданского права. Особый интерес вызвало то, что Доклад содержал раздел, где подчёркивалась необходимость учитывать права интеллектуальной собственности применительно к алгоритмам программного обеспечения и другим продуктам, созданным компьютерными системами и роботами. Именно это, по мнению депутатов европарламента, нуждалось в защите авторских прав. Европейское законодательство исходит из того, что «нет никаких правовых положений, которые конкретно применялись бы к робототехнике, однако существующие правовые режимы и доктрины могут быть легко применимы к робототехнике»69.
69. Цит. по: там же. С. 21.
69 При попытке определения прав юнитов искусственного интеллекта вопросов возникает больше, чем ответов на них. Гражданским кодексом РФ (ст. 1228) установлено, что автором результата интеллектуальной деятельности признаётся гражданин, трудом которого он создан. Право на результат его труда защищено законом.
70 Искусственный интеллект как участник создания изобретения или продукта творчества из действующей парадигмы права выпадает. Его юридическая субъектность наступает тогда, когда сам искусственный интеллект создаёт нечто такое, к чему гражданин не имеет прямого отношения. Однако, даже через цепочку полученных через систему искусственного интеллекта продукта можно найти первоисточник творчества, каким остаётся гражданин с его правами. И потому правы те авторы70, которые считают также.
70. Ахмедов Г.А., Вайниканис Е.А., Глазунова К.Д. и др. Основные тенденции развития права интеллектуальной собственности в современном мире, в том числе новые объекты интеллектуальных прав и глобальная защита [Электронный ресурс]. - Режим доступа: URL: >>>> ).
71 П.М. Морхат делает противоречивый для других его положений вывод: «Вопрос относительно возможности признания отдельных прав юнитов искусственного интеллекта на результаты их интеллектуальной деятельности не отделим от вопроса возможности наделения права субъектностью таких юнитов в целом»71. Выдержит ли элементарная юридическая логика восприятие правосубъектности абстрактной виртуальности, воплощённой в любые юниты? Какими бы способностями не обладали юниты искусственного интеллекта, ни одна фантазия не сформулирует ответ на простой вопрос: зачем абстрактному юниту, не претендующему на право собственности, статус субъекта права? Чьей собственностью является «беспилотный» автомобиль? Неужели искусственного интеллекта? А кому принадлежит пылесос, наделённый элементами искусственного интеллекта? Человеку или юниту?
71. Морхат П.М. Право интеллектуальной собственности и искусственный интеллект. С. 43.
72 Машина может заменить многое из того, что делает Человек, но нужно ли менять юридическую норму ему присущую, а именно право человека на собственность? Зачем юридической науке такой лексический мусор, как «электронное лицо» и такие «ревалентные» понятия, как «образ», «условная правосубъектность», «фреймизация», «юридическая фикция», «плавающая правосубъектность», «негуманоидное новаторство»?72 Совершенно очевидно, что более продуктивным является анализ искусственного интеллекта как инструмента Человека, используемого им для достижения конкретных целей.
72. Там же. С. 45, 46.
73 * * *
74 По отношению к своему создателю системы искусственного интеллекта могут оказаться либо благодарными и доброжелательными, но могут проявить и злонамеренные устремления. Каким будет общежитие на Земле при появлении сконструированных систем, предугадать сложно. Гарантировать, что обладающие разумом устройства будут вести себя разумно и придерживаться сложившихся представлений о морали, правомерности поведения, этике и т.д., никто не может. И потому нормы разумного поведения своих интеллектуально-технологических поделок, как и допустимых отклонений от норм, люди должны определять сами. В идеале создатели искусственного интеллекта должны избегать таких направлений творчества, когда сконструированный искусственный интеллект наделяется чувствами и эмоциями. Искусственный интеллект должен оставаться важным индустриальным достижение цифровизации. Особенно важно не допустить, чтобы на его основе создавалось оружие более разрушительное, чем, то, которое у человечества уже есть.
75 На определённой стадии прогресса возможно наполнение всего интеллектуального пространства продукцией расширенного мозга. Биологический мозг создаёт искусственный интеллект не в качестве своего противника, а в формате партнёра. Контроль за расширением интеллекта должен сохранять человек, обладающий индивидуальностью. Если, конечно, проявит в этом заинтересованность.
76 С точки зрения философии и теории права искусственный интеллект – это не реальный субъект права, а одно из ключевых направления развития технологических процессов в эпоху цифровизации.
77 Возникающая при этом реальная опасность пока не сформировалась как угроза безопасности Человеку. Но это только потому, что человечество ещё не знает, как устроен естественный интеллект, его мышление и в силу этого не может клонировать его в формате технического устройства.
78 У человека органы чувств и мышцы тесно связаны, и механизм их взаимодействия заметен, но не раскрыт. В нейропротезах (хотя эта терминология не безупречна) действуют различные материалы, в том числе датчики и провода. Например, нейропротез руки действует подобно руке Человека, но это – подобие, но не тождество.
79 Если не выходить за пределы познания возможностей обычного Человека и его способности оправдывать своё положение в качестве Венца Творения, то естественный интеллект – это концентрация интеллектуальной, биологической, физической и иных видов энергии, позволяющих ему занимать центральное место в развитии цивилизации, влиять на состояние среды обитания и формы взаимодействия с нею и с себе подобными. Решающее влияние естественный интеллект оказывает на поведение человека, его мышление, нормы морали, особенности убеждений, мировоззрения.
80 Искусственный интеллект не должен создаваться как аналог естественного интеллекта. Это должно быть техническое устройство, воплощающее в себе достигнутый уровень развития науки и техники. Искусственный интеллект материализован в компьютерных системах, роботах различного назначения, киборгах, антропоподобных конструкциях и т.д. Определять правовой статус беспилотника или пылесоса нелепо. Человечеству нельзя останавливаться в познании секретов мышления, тайн мозга и способностей интеллекта, но нельзя возлагать на себя миссию творца и пытаться «создать систему, как минимум равнозначную человеку, а может быть, его и превосходящую»73. Человек, если есть на то причины, может распоряжаться своей жизнью, но создавать угрозу для всего человечества, никто не в праве.
73. Потопахин В.В. Романтика искусственного интеллекта. М., 2017. С. 30.
81 Крупные специалисты в области искусственного интеллекта понимают: если появятся существа с искусственным интеллектом, превышающем возможности человека, то «мы для них будем примерно тем же, чем для нас являются приматы»74. Если мы эту опасность осознаём, то почему к отклонению от нормального состояния, т.е. девиации, к созданию своего могильщика стремимся?
74. Там же. С. 145.
82 В обозримом будущем создать искусственный интеллект, заменяющий Человека, учёные и инженеры не смогут, а следующие поколения исследователей на путь цивилизационной эвтаназии не встанут. Они будут знать, что единственный надёжный регулятор внутренней и международной жизни, гарант сохранения и развития цивилизации – право. Отклонение от его норм – пагубная девиация.

References

1. Akhmedov G.A., Vainikanis E.A., Glazunova K.D. et al. The main trends in the development of intellectual property rights in the modern world, including new objects of intellectual rights and global protection [Electronic resource]. - Access mode: URL: http://www.rvc.ru/upload/iblock/85d/Trends_in_Intellectual_Property.pdf (accessed: 12.08.2022) (in Russ.).

2. Barovskaya E.V., Davydova N.A. Fundamentals of artificial intelligence: textbook. 4th ed., electronic. M., 2020. P. 5, 6, 11, 12 (in Russ.).

3. Barratt J. The last invention of mankind: artificial intelligence and the end of the era of Homo sapiens / transl. from English by N. Lisova. M., 2015. P. 10, 11, 83 (in Russ.).

4. Bolotova L.S. Artificial intelligence systems: models and technologies based on knowledge: textbook. M., 2012. P. 31 (in Russ.).

5. Zhukov V.I. Social Development of Russia: Historical and Sociological Comparative Studies: in 3 vols. M., 2012. Vol. 2. P. 12 - 94 (in Russ.).

6. Zhukov V.I., Zhukova G.V. Global crisis and problems of social renewal of Russia. M., 2009 (in Russ.).

7. Zhukov V.I., Zhukova G.V. Economics and sociology of systemic crises: global character and national characteristics. M., 2013 (in Russ.).

8. Zhukov V.I., Rattur M.V. Some issues of law transformation in the era of digitalization: current norms, deviations and development vector // State and Law. 2022. No. 10. P. 129–140 (in Russ.).

9. Security index. 2016. Vol. 22. No. 3 - 4. P. 81 (in Russ.).

10. Kuznetsova A.V., Samygin S.I., Rodionov M.V. Artificial intelligence and information security of society. M., 2017. P. 4, 6, 22, 77, 92, 107, 108 (in Russ.).

11. Lenin V.I. The complete works. Vol. 26. P. 352 (in Russ.).

12. Markoff J. HOMO ROBOTICUS? People and machines in search of mutual understanding / transl. from English M., 2016. P. 374 (in Russ.).

13. Morkhat P.M. Artificial intelligence: a legal view. M., 2017. P. 7–70, 105, 106, 193, 255 (in Russ.).

14. Morkhat P.M. Intellectual property law and artificial intelligence. M., 2018. P. 12, 14, 21, 43, 45, 46 (in Russ.).

15. Ovchinnikov V.V. The road to the world of artificial intelligence. M., 2017. P. 15, 17, 19, 29, 160 (in Russ.).

16. Potopakhin V.V. The Romance of artificial intelligence. M., 2017. P. 30, 145 (in Russ.).

17. Russell St., Norvig P. Artificial intelligence: a modern approach / transl. from English. 2nd ed. M., 2017. P. 54 - 56, 1248, 1266, 1270 (in Russ.).

18. Filipova I.A. The impact of digital technologies on labor: guidelines for Labor Law. N. Novgorod, 2021. P. 17 (in Russ.).

19. What we think about machines that think. The world's leading scientists on artificial intelligence / transl. from English M., 2017. P. 31, 32, 37, 49, 50, 73, 143, 147, 181-185, 402, 403, 491 (in Russ.).

Comments

No posts found

Write a review
Translate