Обзор Концепции регулирования искусственного интеллекта и робототехники

Концепция разработана Минэкономразвития и утверждена Распоряжением Правительства РФ от 19.08.2020 № 2129-р. Цель Концепции – определить направления развития российского законодательства для обеспечения возможности создания и применения технологий искусственного интеллекта (ИИ) и робототехники (РТ) в различных сферах экономики, не нарушая при этом прав и законных интересов граждан. 

Концепция направлена на обеспечение условий для развития ИИ и РТ. В первую очередь необходимо создание регуляторной среды, комфортной для безопасного развития и внедрения этих технологий. Далее, регулирование должно основываться на балансе интересов человека, общества, государства, компаний - разработчиков систем ИИ и РТ, а также потребителей их товаров, работ и услуг.

Концепция состоит из 5 разделов:

• Общие положения;
• Общеотраслевые задачи регулирования ИИ и РТ;
• Отраслевые направления совершенствования регулирования ИИ и РТ;
• Регуляторные меры для финансового стимулирования развития отрасли ИИ и РТ;
• Механизмы реализации Концепции.

Принципы регулирования технологий ИИ и РТ:

• Человеко-ориентированный подход;
• Формирование кодексов (сводов) этических правил разработки, внедрения и применения ИИ и РТ;
• Оценка воздействия технологий ИИ и РТ на все сферы жизни человека, общества и государства, основанная на научно выверенных исследованиях с подключением широкого круга ученых;
• Обеспечение баланса интересов разработчиков, потребителей и иных лиц для безопасного развития и внедрения ИИ и РТ, а также определение границ их ответственности за возможные негативные последствия использования технологий ИИ и РТ;
• Технологический суверенитет РФ;
• Поддержка конкуренции;
• Оценка при разработке НПА и иных документов в сфере ИИ и РТ социально-экономических последствий и рисков.

Общие задачи регулирования ИИ и РТ

Внедрение технологий ИИ и РТ имеет для страны большое стратегическое значение. Уже сейчас эти технологии проникают практически во все сферы жизни. Соответственно, появляющиеся новые общественные отношения требуют реакции законодателя, в связи с чем в Концепции выделяется необходимость как общеотраслевого, так и отраслевого регулирования ИИ и РТ. 

Общеотраслевые направления совершенствования регулирования технологий ИИ и РТ:

1. Создание механизмов упрощенного внедрения продуктов, использующих технологии ИИ и РТ
Перспективными инструментами создания таких механизмов являются регуляторные песочницы, а применительно к промышленности - также правовой режим полигона общего доступа. 

2. Проработка вопросов юридической ответственности
На сегодняшний день речь идет о вопросах гражданско-правовой ответственности за вред, причиненный системами ИИ и РТ. Реальный уровень развития технологий ИИ и РТ сейчас не предполагает кардинальных изменений в регулировании института юридической ответственности, однако требуется постепенная доработка его отдельных элементов. При повышении же автономности принятия решений системами ИИ и РТ потребуется дальнейшая проработка не только механизмов гражданско-правовой, но и уголовной и административной ответственности в случаях причинения ими вреда.

3. Совершенствование режима оборота данных
Увеличение объема доступных данных и развитие информационно-коммуникационной инфраструктуры для доступа к данным являются одними из основных факторов развития технологий ИИ. С учетом задачи повышения доступности и качества данных требуется адаптация законодательства в целях обеспечения благоприятных правовых условий для безопасного и ответственного доступа разработчиков ИИ и РТ к данным и безопасного обмена, а также особых режимов доступа к данным для проведения научных исследований, обучения ИИ, организации идентификации с использованием ИИ и т.д.

4. Совершенствование режима экспорта систем ИИ и РТ
Создание благоприятных условий экспорта отечественных разработок.

5. Развитие страховых институтов
Речь идет о закреплении самой возможности применения к сфере ИИ и РТ существующих институтов страхования, в частности, необходимо определение случаев обязательного и добровольного страхования. В концепции отмечается, что эффективное функционирование страховых институтов в сфере ИИ и РТ оказывает положительное влияние на скорость внедрения роботов в гражданский оборот. Так, наличие заключенного договора страхования ответственности за причинение вреда в будущем может быть ключевым условием для выпуска некоторых видов систем ИИ и РТ в оборот.

6. Разработка и уточнение терминов и определений в сфере технологий ИИ и РТ
Отсутствует однозначное понимание содержания терминов "искусственный интеллект", "робот", "умный робот", "робототехника", "интеллектуальный агент", что в настоящее время приводит к терминологическим проблемам при формировании регулирования.

7. Обеспечение безопасности, в том числе информационной
Обеспечение необходимого уровня безопасности систем ИИ и РТ является ключевым условием внедрения таких технологий. Законодательство РФ, как правило, уже содержит общие требования к безопасности продуктов (в том числе товаров, работ и услуг), однако с учетом развития технологий ИИ и РТ эти требования в ряде случаев должны быть уточнены.

8. Разработка НПА в сфере ИИ и РТ на международном уровне 

Необходимость учета национальных интересов при обсуждении и реализации различных инициатив международного регулирования.

9. Создание нормативных условий для применения систем ИИ при принятии юридически значимых решений
Выявление и анализ сфер, где принятие решений ИИ допустимо и, соответственно, совершенствование законодательства в таких сферах.

10. Предложение систем ИИ и РТ в качестве товара (работы, услуги), обеспечивающего удовлетворение личных и семейных нужд потребителей
Возможность повышения качества жизни граждан при применении технологий «умного дома», для чего необходимо проработать вопросы защиты прав граждан, в том числе, вопросы персональных данных, защиты прав потребителей и другие.

11. Совершенствование системы технического регулирования и оценки соответствия
Разработка стандартов, процедур подтверждения соответствия.

12. Совершенствование порядка охраны прав на результаты интеллектуальной деятельности
Существующий правовой режим не обеспечивает правовую охрану результатов деятельности систем ИИ, полученных без творческого вклада человека, в связи с чем необходимо выработать подходы к наиболее спорным вопросам в этой сфере.

13. Ряд иных задач общеотраслевого применения технологий ИИ и РТ
Сюда отнесены вопросы привлечения иностранных специалистов, повышения цифровой грамотности населения, необходимость учета влияния технологий ИИ и РТ на сферу занятости, создание экспериментальных образовательных программ.

Отраслевые направления совершенствования регулирования технологий ИИ и РТ:

1. Законодательство в сфере охраны здоровья граждан;
2. Регулирование использования технологий ИИ и РТ в государственном и муниципальном управлении;
3. Законодательство в сфере транспорта;
4. Законодательство о градостроительной деятельности;
5. Использование систем ИИ и РТ для реализации концепции «умного города» (частью «умных городов» должны стать автоматизация ЖКХ, «умный» городской транспорт, цифровые сервисы управления процессами в городе, интеллектуальные системы общественной безопасности, территориальное планирование на основе технологий ИИ);
6. Законодательство в финансовой сфере;
7. Законодательство в области космической деятельности;
8. Законодательство в сфере промышленности;
9. Иные отраслевые направления.

Кроме того, в Концепции отмечается необходимость создания дополнительных государственных мер поддержки компаний, специализирующихся на разработке технологий ИИ и РТ, а также проведения исследований потенциала использования механизмов государственно-частного партнерства.

Концепция должна стать целевым ориентиром при подготовке НПА и документов стратегического планирования в различных сферах, а также при планировании федеральных проектов «Нормативное регулирование цифровой среды» [2], «Цифровые технологии» [3] и иных федеральных проектов национальной программы «Цифровая экономика Российской Федерации» [4].

Проблемы регулирования ИИ и РТ

Основным препятствием для более широкого внедрения технологий ИИ и РТ в различные сферы общественной жизни авторы Концепции считают отсутствие доверия со стороны общества к системам с применением таких технологий. 

Причинами недоверия могут быть:

• повышение степени автономности систем, снижение уровня контроля человека за процессом их применения;
• не полностью прозрачный процесс принятия такими системами решений.

Преодолеть общественное недоверие поможет решение следующих наиболее значимых проблем:

• определение предмета и границ регулирования ИИ и РТ (основ регулирования и правовых барьеров);
• соблюдение баланса между требованиями по защите персональных данных и необходимостью их использования для обучения систем ИИ;
• обеспечение «прозрачности» в работе систем ИИ и РТ;
• делегирование юридически значимых решений системам ИИ и РТ, для чего требуется выявление и анализ сфер, в которых допускается ограниченное применение систем ИИ при принятии юридически значимых решений;
• определение ответственности за вред, причиненный в результате использования ИИ и РТ;
• определение правового режима результатов интеллектуальной деятельности, созданных с использованием ИИ.

Приведенный перечень проблем соотносится c направлениями регулирования ИИ, перечисленными в Национальной стратегии развития ИИ на период до 2030 года. Обозначенные проблемы должны стать основными ориентирами при создании комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий ИИ и РТ.

Юридическая ответственность в случае применения ИИ и РТ

Один из разделов Концепции посвящен юридической ответственности за вред, причиненный системами ИИ и РТ. В Концепции отмечается, что нет необходимости принимать новое регулирование в данном направлении. Предлагается частичная доработка уже существующих норм, устанавливающих гражданско-правовую, административную и уголовную ответственность. 

Вопросы, требующие доработки:

• определение лиц, которые будут нести ответственность за действия систем ИИ и РТ;
• уточнение правил безвиновной гражданско-правовой ответственности;
• определение способов возмещения вреда, причиненного действиями систем ИИ и РТ (например, страхование ответственности, создание компенсационных фондов и др.).

[2] Утверждена президиумом Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 28.05.2019 №9

[3] Утверждена президиумом Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 28.05.2019 №9
[4] Утверждена президиумом Совета при Президенте РФ по стратегическому развитию национальных проектам, протокол от 04.06.2019 №7