Главное
- Определять эмоции по голосу, лицу или другим биометрическим данным запрещено на рабочем месте и в образовательных учреждениях (статья 5(1)(f)), если это не делается по медицинским причинам или причинам безопасности.
- В других случаях оцените высокий риск по статье 6 и приложению III, включая применимые исключения, и уведомления по статье 50(3).
- Запреты действуют с 2 февраля 2025 года, а штрафы за их нарушение достигают 35 миллионов евро или 7 % годового мирового оборота (статья 99(3)).
Когда распознавание эмоций по голосу запрещено?
Если система определяет эмоции по голосу или другим биометрическим данным на работе или в учебном заведении, статья 5(1)(f) в целом это запрещает. Исключение касается медицинских целей или безопасности. В других случаях проверьте классификацию высокого риска по статье 6 и приложению III и уведомления по статье 50. Название «анализ настроения» не определяет фактическую работу системы.
Запрещено, высокий риск или разрешено: где ваш случай
| Использование | Статус | Почему |
|---|---|---|
| Определение эмоций сотрудников по голосу, например гнева у операторов колл-центра | Запрещено | Статья 5(1)(f), рабочее место. Именно этот пример приведён в руководстве Комиссии. |
| Определение эмоций учеников в школе или учебном заведении | Запрещено | Статья 5(1)(f), образовательное учреждение. |
| Определение эмоций клиентов по голосу на линии поддержки | Оцените классификацию высокого риска | Пункт 1(c) приложения III подчиняется правилам статьи 6. Оцените фактическое использование и предоставьте уведомление по статье 50(3), где оно применяется. |
| Выявление усталости водителя или пилота | Не является распознаванием эмоций | Пункт 18 преамбулы исключает физические состояния, такие как боль или усталость. |
| Оценка тональности слов в расшифровке | По формулировке: вне определения | Биометрические данные не обрабатываются. Руководство Комиссии не обязательно к применению, поэтому проверяйте спорные инструменты. |
| Определение эмоций на работе по медицинской причине или причине безопасности | Исключение, толкуется узко | Исключение из статьи 5(1)(f). Комиссия указывает, что его следует толковать узко, поэтому оно не охватывает общий мониторинг самочувствия. |
Система распознавания эмоций (статья 3, пункт 39) определяет эмоции или намерения по биометрическим данным. Голос учитывается, когда его обрабатывают для измерения характеристик говорящего. Простого выявления очевидного проявления, например повышенного голоса, недостаточно, если оно не используется для определения эмоции.
Как это применяется
Нарушение статьи 5 может стоить до 35 миллионов евро или 7 % годового мирового оборота, смотря что больше (статья 99(3)). Нераскрытие информации о системе распознавания эмоций, обязанность по статье 50, попадает на следующий уровень: до 15 миллионов или 3 % (статья 99(4)). Каждое государство-член определяет национальные органы, применяющие Закон, а руководство Комиссии: необязательное пособие для его толкования.
Что проверить на этой неделе
- Составьте список всех инструментов, которые оценивают настроение, стресс, тональность или намерение по аудио, видео или набору текста, включая функции внутри программ, которые вы уже лицензируете.
- Для каждого запишите, на кого он направлен: сотрудников, учеников или клиентов.
- Отключите всё, что определяет эмоции сотрудников или учеников, если нет задокументированной медицинской причины или причины безопасности.
- Для клиентов оцените классификацию по статье 6 и приложению III, предоставьте нужные уведомления и определите необходимость DPIA.
- Письменно спросите у каждого поставщика, что система определяет и по каким данным.
Пришлите список голосовых функций и укажите, кого они анализируют. Опишем техническую работу, чтобы ваша юридическая команда оценила предполагаемое использование.
Проверить функции голосового ИИFAQ
Запрещено ли в ЕС распознавание эмоций по голосу?
Статья 5(1)(f) в целом запрещает определение эмоций по биометрии на работе и в образовании, кроме медицинских целей или безопасности. Другие случаи требуют оценки по статье 6, приложению III, статье 50 и правилам защиты данных.
Может ли колл-центр анализировать эмоции своих клиентов?
Сам факт анализа клиента не доказывает законность использования. Проверьте, определяет ли инструмент эмоции по биометрии, анализирует ли сотрудников, подпадает ли под приложение III и соответствует ли GDPR. Предоставьте нужное уведомление и оцените необходимость DPIA до использования.
Всегда ли голос является биометрическими данными?
Сам по себе нет. Запись: это аудио, пока её не обрабатывают для измерения характеристик говорящего. Это охватывает определение биометрических данных в Законе об ИИ (статья 3, пункт 34). GDPR считает биометрические данные особой категорией только тогда, когда их используют для однозначной идентификации человека (статья 9).
Источники
- Регламент (ЕС) 2024/1689 (Закон об ИИ), статьи 3, 5, 50 и 99, приложение III и пункт 18 преамбулы, Официальный журнал ЕС
- Европейская комиссия, Руководство по запрещённым практикам искусственного интеллекта (C(2025) 5052, 29 июля 2025 года, необязательное)
- Регламент (ЕС) 2026/1744 (Digital Omnibus on AI), дата применения систем из приложения III, Официальный журнал ЕС
- Регламент (ЕС) 2016/679 (GDPR), статья 9, Официальный журнал ЕС
Об авторе
Erik Salo Akimov · Сооснователь · Инженерия
Erik возглавляет инженерию в ESADEX. Он проектирует платформы, инфраструктуру и средства безопасности, стоящие за системами клиентов.
