"Березки вместо индейцев": как закон о регулировании ИИ отразится на пользователях
Минцифры предложило проект закона о регулировании искусственного интеллекта (ИИ) в России. Как нововведения отразятся на развитии нейросетей и что это означает для зарубежных программ, разбиралась Москва 24.
Свод нейроправил
Минцифры опубликовало проект федерального закона о государственном регулировании искусственного интеллекта в России. Документ вынесен на общественное обсуждение и в случае принятия может вступить в силу с 1 сентября 2027 года.
В частности, планируется впервые закрепить само понятие ИИ в законодательстве, а также ввести определения суверенной, национальной и доверенной моделей нейросетей. Действие закона будет распространяться на разработчиков подобных технологий.
Среди ключевых требований – осуществление всех стадий обучения моделей ИИ исключительно на территории России. Также разработчиков планируют обязать исключать дискриминационные алгоритмы и блокировать создание противоправного контента. Кроме того, при разработке и внедрении искусственного интеллекта должны учитываться традиционные российские духовно-нравственные ценности: жизнь, достоинство, права и свободы человека, патриотизм, гражданственность, служение Отечеству и ответственность за его судьбу.
Документ вводит и обязательную маркировку фото-, видео- и аудиоматериалов, созданных ИИ. Крупные соцсети обяжут проверять ее наличие, а при отсутствии – самостоятельно маркировать или удалять подобный контент. Граждане получат право оспаривать решения компаний, принятые с использованием ИИ, в досудебном порядке, а также право на компенсацию вреда, причиненного неправомерным использованием технологий.
В аппарате вице-премьера – руководителя аппарата правительства Дмитрия Григоренко подчеркнули важность прозрачных правил работы с подобными технологиями.
Искусственный интеллект уже используется повсеместно, поэтому важно установить понятные и прозрачные правила его применения. Для нас главное – соблюдение баланса между защитой интересов граждан и развитием технологий.
Дмитрий Григоренковице-премьер – руководитель аппарата правительства
По словам Григоренко, документ предусматривает создание отдельных требований для применения ИИ в госуправлении и других «чувствительных сферах», тогда как в коммерческом секторе обязательные требования вводиться не будут.
Ранее стало известно, что в Москве ИИ применяется более чем в 120 проектах: медицине, транспорте, ЖКХ, образовании и госуслугах. Причем используются как традиционный, так и генеративный искусственный интеллект, порой дополняя друг друга, обеспечивая как стабильную работу городских систем, так и поиск нестандартных решений, подчеркнули в департаменте информационных технологий города.
Новые ограничения?
Проект федерального закона, касающийся основ регулирования ИИ, в том виде, в котором представлен сейчас, кардинально изменит правила игры на рынке нейросетей. Таким мнением в разговоре с Москвой 24 поделился первый зампред комитета Госдумы по информационной политике, информационным технологиям и связи Антон Ткачев.
Хоть прямого запрета на зарубежные сервисы вроде ChatGPT для обычных пользователей не вводится, но создаются условия, при которых глобальным игрокам будет крайне сложно работать в России легально.
Антон Ткачевпервый зампред комитета Госдумы по информационной политике, информационным технологиям и связи
По его словам, для использования в госорганах и критической инфраструктуре модели ИИ должны войти в «реестр доверенных». В таком случае потребуется обработка данных исключительно на российских серверах и сертификация от ФСБ, что автоматически закрывает этот сегмент для зарубежных облачных сервисов.
«Им на смену должны прийти суверенные модели, разработанные и обученные только в России. Для массовых сервисов с аудиторией от 500 тысяч человек вводится обязанность открывать представительства в России и модерировать контент по российским законам. Невыполнение грозит блокировкой», – пояснил Ткачев.
Он пояснил, что все видео, фото и тексты, созданные нейросетями, подлежат обязательной маркировке: владельцы сервисов обязаны встраивать видимую для зрителя плашку (например, в углу экрана) и машиночитаемую метку.
«Крупные онлайн-платформы (с аудиторией от 100 тысяч человек) должны проверять контент и либо ставить метку сами, либо удалять материал. За удаление такой маркировки планируется ввести ответственность», – добавил депутат.
Кроме того, законопроект перекладывает на бизнес ответственность за «воспитание» нейросетей: разработчики и владельцы обязаны тестировать модели на риски, документировать логику работы и нести ответственность, если нейросеть нарушила закон, а они «должны были это предвидеть».
«Для зарубежных IT-гигантов наступает эпоха жесткого «приземления» с риском потери рынка, для российских разработчиков открывается окно возможностей в госсекторе, а для зрителей главным изменением станет повсеместная маркировка ИИ-синтезированного контента. Впрочем, это только проект закона. К нему есть ряд вопросов, необходимы и уточнения», – заключил Ткачев.
В то же время эксперт по информационной безопасности Алексей Горелкин в разговоре с Москвой 24 обратил внимание, что обсуждаемый документ еще не принят и, следовательно, еще будет видоизменяться.
«Сейчас можно говорить только о самом векторе, направлении мысли, и на данном этапе оно очень хорошее. Прежде всего, законопроект вводит четкие формулировки того, что такое искусственный интеллект, и регулирует терминологию, что крайне важно, потому что сейчас используются разные понятия, не всегда одинаково их понимают», – пояснил эксперт.
При этом в дальнейшем документ может стать основой для других нормативных актов, предположил Горелкин.
Одно из ключевых направлений – развитие технологий ИИ внутри России с упором на суверенность, а точнее на самодостаточность. Это очень важно, потому что многие ныне используемые модели – это лишь дообученные для РФ европейские или американские модели.
Алексей Горелкинэксперт по информационной безопасности
Он привел в пример случаи, когда при команде «нарисуй родное» программы создавали «не березки, а индейцев», потому что «native» для американцев – это коренное население Америки.
«Таких ситуаций немало. Поэтому внедрение собственных дата-сетов и создание глубоко кастомизированных, дообученных именно на отечественных данных моделей было бы крайне полезно», – уточнил Горелкин.
По его мнению, в нынешней версии законопроекта речь больше идет об этичности – чтобы искусственный интеллект не применялся во вред.
«Он выглядит как нечто среднее между концепцией развития, набором этических норм и глоссарием. В ходе публичных обсуждений документ, скорее всего, будет сильно изменен, но сам вектор крайне хороший. Приятно, что Минцифры слышит, что говорят российские разработчики, причем не только крупные игроки», – отметил эксперт.
В то же время Горелкин убежден, что мера не направлена на блокировку зарубежных сервисов. При этом российские алгоритмы ИИ уже активно используются повсеместно – в умных колонках, поисковиках, браузерах, чатах. Они конкурируют с зарубежными аналогами, хотя во многих вопросах все же пока вынуждены догонять их. Вероятно, мера даст импульс, чтобы российские разработчики начали задавать тренды сами, резюмировал Горелкин.
