Первый закон об ИИ в ЕС: что под запретом и какие штрафы предусмотрены

Сейчас компании, занимающиеся развитием технологий искусственного интеллекта (ИИ), действуют в условиях общей конкуренции, которую невозможно регулировать. В этой гонке дискуссии об опасности, прозрачности и интеллектуальной собственности остаются в стороне.

Об этом рассказало издание ThePage.

Однако с 1 августа в ЕС вступил в силу закон, регулирующий ИИ. Он дает компаниям достаточное время для соблюдения его норм. Большинство регламентов по нему вступят в силу только через 2 года. Также его нормативные концепции могут быть применены и в США, как на федеральном уровне, так и на уровне штатов.

На какие классификации разделяются системы ИИ в зависимости от угрозы риска

Основная цель нового закона – классификация систем ИИ в зависимости от рисков, которые они могут нести для людей.

Неприемлемый риск

Эта категория включает системы, которые категорически запрещены законом из-за их вредного воздействия. В нее входят:

• нецелевые базы данных распознавания лиц, отслеживающих людей в интернете или через общественные камеры видеонаблюдения;
• социальный скоринг, оценивающий людей на основе их поведения или личных качеств;
• манипулятивные приемы (или "темные паттерны"), которые обманом заставляют людей совершать нежелательные действия;
• системы оценки риска, прогнозирующие возможность совершения преступления либо способности освобождения под залог.

Высокий риск

Такие системы подлежат строгому регулированию, поскольку они оказывают влияние на важные решения, непосредственно касающиеся жизни людей. Среди них системы:

• биометрической идентификации;
• критически важной инфраструктуры (интернет-сети, электросети и т.п.);
• образования (оценка успеваемости, мониторинг поведения и т.п.);
• занятости (отбор резюме, мониторинг сотрудников);
• государственных и финансовых услуг (оценка кредитоспособности, алгоритмы ценообразования);
• обеспечение правопорядка (прогнозирование преступлений, уголовное профилирование);
• обработки иммиграционных заявлений;
• демократических процессов (судебные решения, выборы)

Ограниченный риск

К этой категории относятся такие системы ИИ, как ChatGPT или Midjourney, занимающиеся генерированием контента. К их обязательствам прилагается:

• информировать пользователей, что они взаимодействуют с ИИ;
• маркировать контент, созданный ИИ, для четкого отличия его от человеческого.

Минимальный риск

Такие системы не подлежат регулированию и включают, например, спам-фильтры и ИИ в видеоиграх.

Требования к системам ИИ общего назначения

Новый закон также регулирует системы ИИ общего назначения. К таковым относятся GPT-4 от OpenAI или Gemini от Google.

Разработчики подобных моделей должны:

• соблюдать авторские права ЕС;
• предоставлять отчеты о контенте, использованном для обучения;
• публиковать техническую документацию и предоставлять ее пользователям, интегрирующим эти модели в собственные продукты.

Какие штрафы за нарушение закона

За нарушение положений нового законодательства предусмотрены значительные штрафы. Они достигают 35 млн евро или 7% от годового общего дохода компании. Сумма зависит от того, что больше.

Компании, имеющие прямое отношение к системам ИИ, уже выразили поддержку новым правилам. Представительство компании Meta отметило, что новые правила ЕС помогут обеспечить ответственность при разработке и внедрении систем ИИ.

"Мы приветствуем гармонизированные правила ЕС, гарантирующие ответственную разработку и внедрение ИИ. С самого начала мы поддерживали основанный на рисках, нейтральный в отношении технологий подход Еврокомиссии и отстаивали необходимость в структуре, которая способствует и поощряет открытые модели ИИ и открытость в более широком смысле", – отметили в компании.

Также они отметили важность прозрачности для стимулирования инноваций.

OpenAI также поддержала новую регулировку.

"OpenAI стремится придерживаться Закона ЕС об ИИ, и мы будем тесно сотрудничать с новым Управлением ЕС по ИИ по мере внедрения закона. В ближайшие месяцы мы продолжим подготовку технической документации и других пособий для поставщиков и разработчиков наших моделей GPAI, одновременно повышая безопасность и защищенность моделей, мы предоставляем на европейском рынке и за его пределами", – отметили в представительстве.

Такие действия помогут одновременно повышать безопасность и защищенность своих моделей ИИ.

Раньше мы рассказывали, что скрывается под маской безопасности темных страниц Telegram. Также мы писали о том, в чем преимущество дронов с искусственным интеллектом.