Российские компании вскоре столкнутся с ограничениями на применение искусственного интеллекта в ряде областей, где он способен влиять на поведение и решения людей. Инициатива направлена на то, чтобы защитить пользователей от манипуляций и обеспечить прозрачность алгоритмов в ключевых сферах.

К чему стремятся законодатели

Законодатели предлагают запретить использование ИИ для манипулирования пользователями — в том числе в рекламных, политических и социальных контекстах. Главная цель инициативы — предотвратить скрытое воздействие на эмоции, убеждения и выборы граждан, которое становится возможным при сборе больших данных и целевой настройке моделей. Речь идёт о случаях, когда алгоритмы подталкивают людей к нужным действиям без их осознанного согласия.

Какие ограничения предусматриваются

Ожидается, что новые нормы затронут компании, использующие ИИ для персонализированных сообщений, таргетинга и создания контента, рассчитанного на изменение мнений. Под запрет могут попасть те решения, которые определяют порядок выдачи информации, формируют эмоциональную реакцию или манипулируют поведением через микроконтент и рекомендации. Также предполагается повышение требований к оценке рисков и прозрачности: компании должны будут документировать, как работают их модели и какие данные используются.

Исключения и сферы применения

Не весь ИИ попадёт под ограничения. Законодатели рассматривают исключения для медицинских, научных и иных безопасных применений, где алгоритмы служат общественным интересам и не направлены на манипуляцию. Также под наблюдение попадут технологии, влияющие на избирательные процессы и массовую информацию — здесь требования будут особенно строгими.

Последствия для бизнеса и пользователей

Для бизнеса это означает дополнительные проверки, аудит и, возможно, переработку продуктов под новые правила. Компании получат обязанности по раскрытию информации о применении ИИ и оценке потенциального вреда от его использования. Для пользователей изменения должны привести к большей защите от навязчивых и скрытых попыток воздействия, а также к повышению доверия к цифровым сервисам.

Что дальше и как подготовиться

Организациям стоит заранее оценить свои ИИ-системы, подготовить документы по управлению рисками и внедрить механизмы прозрачности. Юридические и технические команды должны совместно определить случаи потенциальной манипуляции и проработать сценарии соответствия новым требованиям. Контроль и штрафы за нарушения сделают соблюдение правил приоритетом для большинства компаний.

В итоге инициатива направлена на баланс между развитием технологий и защитой общества: ограничения призваны снизить риск злоупотреблений ИИ, одновременно давая бизнесу понятные рамки для ответственного использования алгоритмов.