Заявка на демонстрацию платформы
Оставьте заявку и наш менеджер обязательно свяжется с вами ближайшее время
Концепция регулирования искусственного интеллекта и робототехники в России: цели, принципы и основные положения
Разбираем статус знакового документа, требования к данным и ответственности, экспериментальные режимы и влияние регулирования ИИ на бизнес.
Концепция регулирования искусственного интеллекта и робототехники в России задала рамку для развития норм в сфере новых технологий. Документ не является законом об ИИ и сам по себе не устанавливает универсальные обязанности для всех разработчиков.
Давайте подробно разберем, что включает в себя этот документ и каково его влияние на бизнес.
Давайте подробно разберем, что включает в себя этот документ и каково его влияние на бизнес.
Что такое Концепция регулирования искусственного интеллекта и робототехники
Концепция описывает подход государства к технологиям искусственного интеллекта, автономным устройствам, информации и связанным с ними рискам. В поле зрения находится жизненный цикл решения: сбор сведений, обучение, внедрение, обновление, контроль результата и реагирование на инциденты.
У разных систем разные последствия ошибки. Для рекомендательного сервиса важны прозрачность и защита пользователя, для медицинского инструмента — качество информации и участие специалиста, для промышленного робота — физическая безопасность. Концепция не ставит целью описать все возможные случаи, они описывает лишь общие принципы.
Кроме того, документ следует отличать от обязательных норм. Концепция задаёт стратегический уровень, затем законы устанавливают конкретные требования, которые необходимо исполнять, а уже бизнес переводит их в проектные процедуры: оценку рисков, проверку информации, тестирование и контроль изменений.
Другими словами, концепция развития — это самое верхнеуровневое описание дальнейших действий государства и его взхаимодействия с бизнесом в сфере искусственного интеллекта.
У разных систем разные последствия ошибки. Для рекомендательного сервиса важны прозрачность и защита пользователя, для медицинского инструмента — качество информации и участие специалиста, для промышленного робота — физическая безопасность. Концепция не ставит целью описать все возможные случаи, они описывает лишь общие принципы.
Кроме того, документ следует отличать от обязательных норм. Концепция задаёт стратегический уровень, затем законы устанавливают конкретные требования, которые необходимо исполнять, а уже бизнес переводит их в проектные процедуры: оценку рисков, проверку информации, тестирование и контроль изменений.
Другими словами, концепция развития — это самое верхнеуровневое описание дальнейших действий государства и его взхаимодействия с бизнесом в сфере искусственного интеллекта.
Распоряжение Правительства РФ № 2129-р: принятие и содержание документа до 2024 года
Концепция утверждена распоряжением Правительства РФ от 19 августа 2020 года № 2129-р на период до 2024 года. В нём предложено постепенно сочетать поддержку технологий с защитой граждан, экспериментальными режимами, стандартами и оценкой рисков.
Ключевые положения можно свести к четырём блокам:
Ключевые положения можно свести к четырём блокам:
- Создание правовых условий для разработки и внедрения ИИ.
- Защита прав, безопасности и результатов интеллектуальной деятельности.
- Поддержка конкуренции, исследований и технологического суверенитета.
- Использование экспериментальных правовых режимов для апробации новых решений.
Актуальные требования определяются законами и условиями конкретного проекта. Концепция задает лишь направление.
Срок «до 2024 года» ограничивает период действия Концепции. После него документ сохраняет историческое и аналитическое значение, но не становится самостоятельным источником новых обязанностей.
Цели и задачи государственного регулирования искусственного интеллекта
Несмотря на то, что концепция развития была ограничена 2024-ым годом, описанные в ней цели и задачи все еще актуальны, т.к. именно на этой основе, как уже отмечено выше, выстраивается дальнейшее законотворчество, создание условий и разработка конкретных механизмов для внедрения ИИ во все сферы жизни. Что это за цели и задачи?
1. Создание правовых условий для развития и внедрения ИИ
Правила должны отвечать на вопросы о происхождении сведений, качестве модели, роли человека и фиксации изменений. Ответы распределены между отраслями права, стандартами и договорами.
2. Защита прав граждан и обеспечение безопасности технологий
В зависимости от сценария могут потребоваться информирование пользователя, контроль специалиста, пересмотр результата, журналирование и остановка. Набор мер зависит от отрасли и последствий ошибки.
3. Поддержка технологического суверенитета и конкуренции
Государственная политика в этой сфере включает подготовку кадров, инфраструктуру и отечественные платформы. Поддержка конкуренции должна сочетаться с критериями качества, безопасности и ответственности разработчиков.
4. Ответственность за результаты интеллектуальной деятельности и причинение вреда
Вполне очевидно, что искусственный интеллект при массовом применении может стать источником причиненного человеку или организации вреда. Поэтому концепция предусматривает обозначение ответственности за результаты интеллектуальной деятельности и за причинение вреда с помощью этих средств.
В каждом проекте отдельно проверяются права на код, наборы сведений, модель и результат. При причинении вреда анализируются роли заказчика, разработчика, интегратора, владельца и оператора. Это рабочая рамка для договорного анализа.
В каждом проекте отдельно проверяются права на код, наборы сведений, модель и результат. При причинении вреда анализируются роли заказчика, разработчика, интегратора, владельца и оператора. Это рабочая рамка для договорного анализа.
Основные принципы регулирования искусственного интеллекта и робототехники
Основных принципов три:
1. Человекоориентированный подход и защита прав человека
До запуска технического решения нужно определить, чьи интересы оно затрагивает и какие последствия имеет ошибка. В чувствительных сценариях (медицина, финансы и т.д.) результат модели целесообразно проверять специалистом.
2. Риск-ориентированное регулирование и технологическая нейтральность
Чем выше потенциальный вред, тем строже тестирование и мониторинг. Технологическая нейтральность означает, что оценивается функция системы и результат её применения, а не название модели.
3. Прозрачность, безопасность и ответственность при использовании ИИ
В отдельных случаях пользователю необходимо сообщить об автоматизированном взаимодействии. Для разработчика важны назначение системы, ограничения, критерии качества и порядок реагирования на сбой.
Для робототехнических систем добавляется физическая безопасность: аварийная остановка и понятные правила передачи инициативы оператору.
Для робототехнических систем добавляется физическая безопасность: аварийная остановка и понятные правила передачи инициативы оператору.
Ключевые направления правового регулирования ИИ и робототехники
В этом разделе разберем ключевые направления, в которых сегодня выполняется регулирование ИИ и робототехники.
Юридическая ответственность за решения и действия искусственного интеллекта
Российское право не признаёт ИИ самостоятельным субъектом ответственности. Вопрос решается через установление лиц, контролирующих разработку и эксплуатацию. Общие основания возмещения вреда предусмотрены статьей 1064 ГК РФ.
Защита персональных данных и информационная безопасность
При обучении и эксплуатации систем применяется Федеральный закон № 152-ФЗ «О персональных данных». До передачи информации модели следует определить основание обработки, доступы, хранение и условия работы подрядчиков.
Соблюдение 152-ФЗ является основным препятствием перед использованием популярных моделей неотечественного производства: Claude, ChatGPT, Gemini и др. Для соблюдения требований законодательства применяются локальные системы, чаще всего на базе российских нейросетей.
Соблюдение 152-ФЗ является основным препятствием перед использованием популярных моделей неотечественного производства: Claude, ChatGPT, Gemini и др. Для соблюдения требований законодательства применяются локальные системы, чаще всего на базе российских нейросетей.
Система управления корпоративным контентом «Анарта». В состав платформы входят средства для работы с документами, основанные на искусственном интеллекте (ИИ-ассистенты).
Авторские права и интеллектуальная собственность в сфере ИИ
ГК РФ охраняет программы, базы, произведения и изобретения, перечисленные в статье 1225. Специального объекта «результат, созданный ИИ» эта норма не вводит. Договоры должны описывать лицензии на обучение, доработку и использование. При этом интеллектуальная собственность остается за человеком. Считается, что ИИ не производит ничего нового.
Правовое регулирование разработки и использования робототехники
Помимо программного обеспечения проверяются конструкция, электробезопасность, условия эксплуатации и взаимодействие с человеком. В техническом задании фиксируются действия без оператора, сценарии отказа и регистрация инцидента.
Экспериментальные правовые режимы и регуляторные песочницы
Федеральный закон № 258-ФЗ устанавливает специальный режим для участников эксперимента на определённых территориях и срок эксперимента. Он не отменяет безопасность и ответственность в целом. Статья 18.1 предусматривает процедуру рассмотрения вреда от решений с ИИ в рамках ЭПР.
Особенности регулирования искусственного интеллекта в отдельных отраслях
В некоторых сферах и отраслях действуют отдельные принципы регулирования. Коротко расскажу о них ниже.
Применение ИИ в здравоохранении и транспорте
В медицине оцениваются клинический контекст, качество выборки и роль специалиста. В транспорте нужны резервные режимы и сценарии отказа. Это практические критерии безопасности, а не универсальная процедура.
Использование искусственного интеллекта в государственном управлении
Государственные системы работают с большими массивами сведений и решениями, затрагивающими права граждан. Поэтому важны законность цели, аудит доступа и пересмотр результата.
Регулирование ИИ в финансовой сфере и промышленности
Финансовые организации проверяют риски идентификации, мошенничества и кредитных решений. В промышленности оцениваются безопасность работников, резервирование и действия при потере связи.
Механизмы реализации Концепции и её развитие после 2024 года
После окончания периода документа развитие направления продолжается в рамках Национальной стратегии развития искусственного интеллекта до 2030 года, утверждённой Указом Президента РФ № 490. В 2025 году Правительство опубликовало документы о стратегическом направлении в сфере ИИ до 2030 года: официальный пакет.
По официальным источникам отдельная универсальная «Концепция регулирования ИИ и робототехники до 2030 года» пока не подтверждена. Корректнее говорить о Национальной стратегии и отдельных отраслевых механизмах.
Для организации, запускающей продукт, полезен такой порядок:
По официальным источникам отдельная универсальная «Концепция регулирования ИИ и робототехники до 2030 года» пока не подтверждена. Корректнее говорить о Национальной стратегии и отдельных отраслевых механизмах.
Для организации, запускающей продукт, полезен такой порядок:
- Описать назначение системы, пользователей и затрагиваемые процессы.
- Провести инвентаризацию и классификацию сведений.
- Оценить правовые, информационные, операционные и физические риски.
- Зафиксировать роли участников и порядок принятия финального решения.
- Настроить тестирование, мониторинг и остановку.
- Проверить права на модель, наборы сведений и результат.
- Повторять проверку после обновления модели или норм.
Внедряете ИИ у себя в организации? Обратите внимание на платформу «Анарта». Демо по запросу.
Как регулирование искусственного интеллекта влияет на бизнес и разработчиков
Для бизнеса главный эффект связан не с получением единого «разрешения на ИИ», а с управлением жизненным циклом продукта. Юрист, специалист по безопасности и владелец процесса должны участвовать в проекте до запуска. Это особенно важно для регулируемых сфер.
Разработчику важно документировать ограничения модели, источники обучения и результаты тестирования. Заказчику — определить ответственное лицо и риски эксплуатации. В договоре закрепляют доступ к журналам, уведомление об инцидентах и условия обновления.
Разработчику важно документировать ограничения модели, источники обучения и результаты тестирования. Заказчику — определить ответственное лицо и риски эксплуатации. В договоре закрепляют доступ к журналам, уведомление об инцидентах и условия обновления.
Международный опыт: регулирование ИИ в Евросоюзе, США и Китае
В Евросоюзе AI Act использует риск-ориентированную модель и различает providers, deployers и high-risk AI systems. Регламент применяется поэтапно: отдельные обязанности действуют с 2025 года, требования к двум группам high-risk систем начинают применяться в 2027 и 2028 годах после поправок 2026 года. Прямой перенос этих норм в Россию невозможен, но подход полезен как ориентир для оценки угроз.
В США правила складываются из отраслевых требований, законодательства штатов, стандартов, договоров и судебной практики. Китай же сочетает государственный контроль информации и безопасности с поддержкой развития технологий. Во всех моделях повторяются вопросы качества сведений, прозрачности, человеческого контроля и ответственности, но правовые механизмы различаются.
В США правила складываются из отраслевых требований, законодательства штатов, стандартов, договоров и судебной практики. Китай же сочетает государственный контроль информации и безопасности с поддержкой развития технологий. Во всех моделях повторяются вопросы качества сведений, прозрачности, человеческого контроля и ответственности, но правовые механизмы различаются.
Основные проблемы и перспективы развития законодательства об ИИ
Главный вызов — скорость технологических изменений. Слишком детальная норма быстро устаревает, а слишком общая не дает бизнесу критерия соответствия. Второй вопрос — доказуемость: заказчику и регулятору нужны сведения о тестах и ограничениях, но раскрывать коммерческую тайну полностью нельзя.
Третья проблема — цепочка поставок. Один продукт может объединять базовую модель, дообучение, корпоративные сведения и внешний интерфейс. Договоры и внутренние регламенты должны показывать, кто контролирует каждый слой.
Перспективным остается риск-ориентированный подход: требования зависят от последствий применения, а не от самого факта использования технологий. Для организаций это означает регулярную проверку данных, безопасности, договоров и процедур контроля.
Третья проблема — цепочка поставок. Один продукт может объединять базовую модель, дообучение, корпоративные сведения и внешний интерфейс. Договоры и внутренние регламенты должны показывать, кто контролирует каждый слой.
Перспективным остается риск-ориентированный подход: требования зависят от последствий применения, а не от самого факта использования технологий. Для организаций это означает регулярную проверку данных, безопасности, договоров и процедур контроля.
FAQ
Является ли Концепция регулирования ИИ обязательной для исполнения?
Нет. Распоряжение № 2129-р утвердило рамочный документ на период до 2024 года. Обязанности возникают из действующих законов и требований, применимых к конкретной системе.
Какие законы регулируют использование искусственного интеллекта в России?
Применяются нормы об информации, персональных данных, интеллектуальной собственности, безопасности и отраслевые акты. Для экспериментальных режимов действует Федеральный закон № 258-ФЗ.
Кто отвечает за вред, причинённый системой ИИ?
Универсального закона об ответственности ИИ нет. Определяется лицо, обязанное возместить вред по применимым нормам, с учётом ролей разработчика, владельца, оператора и других участников проекта. В рамках ЭПР действует специальная процедура статьи 18.1 закона № 258-ФЗ.
Как защищать данные и результаты интеллектуальной деятельности?
Нужно определить правовой режим данных, основание обработки, права на код, модель и датасеты, а также закрепить условия использования в договорах. Проверка проводится до обучения и повторяется после существенных изменений системы.
Что произошло с Концепцией после завершения периода до 2024 года?
Она не стала автоматически новым обязательным законом. После 2024 года направление развивается через Национальную стратегию ИИ до 2030 года, документы стратегического планирования и отдельные нормы.
Нет. Распоряжение № 2129-р утвердило рамочный документ на период до 2024 года. Обязанности возникают из действующих законов и требований, применимых к конкретной системе.
Какие законы регулируют использование искусственного интеллекта в России?
Применяются нормы об информации, персональных данных, интеллектуальной собственности, безопасности и отраслевые акты. Для экспериментальных режимов действует Федеральный закон № 258-ФЗ.
Кто отвечает за вред, причинённый системой ИИ?
Универсального закона об ответственности ИИ нет. Определяется лицо, обязанное возместить вред по применимым нормам, с учётом ролей разработчика, владельца, оператора и других участников проекта. В рамках ЭПР действует специальная процедура статьи 18.1 закона № 258-ФЗ.
Как защищать данные и результаты интеллектуальной деятельности?
Нужно определить правовой режим данных, основание обработки, права на код, модель и датасеты, а также закрепить условия использования в договорах. Проверка проводится до обучения и повторяется после существенных изменений системы.
Что произошло с Концепцией после завершения периода до 2024 года?
Она не стала автоматически новым обязательным законом. После 2024 года направление развивается через Национальную стратегию ИИ до 2030 года, документы стратегического планирования и отдельные нормы.
Концепция помогает понять логику развития правового регулирования, но конкретный ИИ-проект следует оценивать по действующим нормам, отраслевым рискам и условиям его эксплуатации. У компании «Анарта» есть опыт реализации внедрений ИИ-проектов в различных отраслях. Обращайтесь.
Остались вопросы? Оставьте заявку на консультацию.
Заявка на консультацию
Оставьте заявку и наш менеджер обязательно свяжется с вами ближайшее время