Головне
- Визначати емоції за голосом, обличчям чи іншими біометричними даними заборонено на робочому місці та в освітніх закладах (стаття 5(1)(f)), якщо це не робиться з медичних чи безпекових причин.
- В інших випадках оцініть високий ризик за статтею 6 і додатком III, зокрема застосовні винятки, та повідомлення за статтею 50(3).
- Заборони діють з 2 лютого 2025 року, а штрафи за їх порушення сягають 35 мільйонів євро або 7 % річного світового обороту (стаття 99(3)).
Коли розпізнавання емоцій за голосом заборонено?
Якщо система визначає емоції за голосом або іншими біометричними даними на роботі чи в закладі освіти, стаття 5(1)(f) загалом це забороняє. Виняток стосується медичних цілей або безпеки. В інших випадках перевірте класифікацію високого ризику за статтею 6 і додатком III та повідомлення за статтею 50. Назва «аналіз настрою» не визначає фактичну роботу системи.
Заборонено, високий ризик чи дозволено: де ваш випадок
| Використання | Статус | Чому |
|---|---|---|
| Визначення емоцій працівників за голосом, наприклад гніву в операторів кол-центру | Заборонено | Стаття 5(1)(f), робоче місце. Саме цей приклад наведено в настановах Комісії. |
| Визначення емоцій учнів у школі чи навчальному закладі | Заборонено | Стаття 5(1)(f), освітній заклад. |
| Визначення емоцій клієнтів за голосом на лінії підтримки | Оцініть класифікацію високого ризику | Пункт 1(c) додатка III підпорядкований правилам статті 6. Оцініть фактичне використання й надайте повідомлення за статтею 50(3), де воно застосовується. |
| Виявлення втоми водія чи пілота | Не є розпізнаванням емоцій | Преамбула 18 виключає фізичні стани, як-от біль чи втому. |
| Оцінювання тональності слів у розшифровці | За формулюванням: поза визначенням | Біометричні дані не обробляються. Настанови Комісії не є обов'язковими, тож перевіряйте сумнівні інструменти. |
| Визначення емоцій на роботі з медичних чи безпекових причин | Виняток, тлумачиться вузько | Виняток зі статті 5(1)(f). Комісія вказує, що його слід тлумачити вузько, тож він не охоплює загальний моніторинг самопочуття. |
Система розпізнавання емоцій (стаття 3, пункт 39) визначає емоції чи наміри за біометричними даними. Голос враховується, коли його обробляють для вимірювання характеристик того, хто говорить. Просте виявлення очевидного вираження, як-от підвищеного голосу, недостатнє, якщо його не використовують для визначення емоції.
Як це застосовується
Порушення статті 5 може коштувати до 35 мільйонів євро або 7 % річного світового обороту, залежно від того, що більше (стаття 99(3)). Нерозкриття інформації про систему розпізнавання емоцій, обов'язок за статтею 50, потрапляє до наступного рівня: до 15 мільйонів або 3 % (стаття 99(4)). Кожна держава-член визначає національні органи, що застосовують Закон, а настанови Комісії: необов'язковий допоміжний матеріал для його тлумачення.
Що перевірити цього тижня
- Складіть перелік усіх інструментів, що оцінюють настрій, стрес, тональність чи намір за аудіо, відео чи набором тексту, зокрема функцій у програмах, які ви вже ліцензуєте.
- Для кожного запишіть, на кого він спрямований: працівників, учнів чи клієнтів.
- Вимкніть усе, що визначає емоції працівників чи учнів, якщо немає задокументованої медичної чи безпекової причини.
- Для клієнтів оцініть класифікацію за статтею 6 і додатком III, надайте потрібні повідомлення й визначте необхідність DPIA.
- Письмово запитайте кожного постачальника, що система визначає і за якими даними.
Надішліть перелік голосових функцій і вкажіть, кого вони аналізують. Опишемо технічну роботу, щоб ваша юридична команда оцінила заплановане використання.
Переглянути функції голосового ШІFAQ
Чи заборонено в ЄС розпізнавання емоцій за голосом?
Стаття 5(1)(f) загалом забороняє визначення емоцій за біометрією на роботі й в освіті, крім медичних цілей або безпеки. Інші випадки потребують оцінки за статтею 6, додатком III, статтею 50 і правилами захисту даних.
Чи може кол-центр аналізувати емоції своїх клієнтів?
Сам факт аналізу клієнта не доводить законність використання. Перевірте, чи інструмент визначає емоції за біометрією, аналізує працівників, підпадає під додаток III та відповідає GDPR. Надайте потрібне повідомлення й оцініть потребу в DPIA до використання.
Чи голос завжди є біометричними даними?
Сам по собі ні. Запис: це аудіо, доки його не обробляють для вимірювання характеристик того, хто говорить. Це охоплює визначення біометричних даних у Законі про ШІ (стаття 3, пункт 34). GDPR вважає біометричні дані особливою категорією лише тоді, коли їх використовують для однозначної ідентифікації особи (стаття 9).
Джерела
- Регламент (ЄС) 2024/1689 (Закон про ШІ), статті 3, 5, 50 і 99, додаток III та преамбула 18, Офіційний вісник ЄС
- Європейська комісія, Настанови щодо заборонених практик штучного інтелекту (C(2025) 5052, 29 липня 2025 року, необов'язкові)
- Регламент (ЄС) 2026/1744 (Digital Omnibus on AI), дата застосування систем із додатка III, Офіційний вісник ЄС
- Регламент (ЄС) 2016/679 (GDPR), стаття 9, Офіційний вісник ЄС
Про автора
Erik Salo Akimov · Співзасновник · Інженерія
Erik очолює інженерію в ESADEX. Він проєктує платформи, інфраструктуру та засоби безпеки, що стоять за системами клієнтів.
