Ideas clave
- Inferir emociones a partir de la voz, el rostro u otros datos biométricos está prohibido en el lugar de trabajo y en centros educativos (artículo 5, apartado 1, letra f), salvo que el uso sea por motivos médicos o de seguridad.
- Fuera de esos contextos, evalúa el alto riesgo según el artículo 6 y el anexo III, incluidas las excepciones aplicables, y los avisos del artículo 50.3.
- Las prohibiciones se aplican desde el 2 de febrero de 2025 y las multas por incumplirlas llegan a 35 millones de euros o al 7 % del volumen de negocio mundial anual (artículo 99, apartado 3).
¿Cuándo se prohíbe reconocer emociones en la voz?
Si un sistema infiere emociones a partir de la voz u otros datos biométricos en el trabajo o en un centro educativo, el artículo 5.1.f lo prohíbe con carácter general. La excepción cubre razones médicas o de seguridad. En otros contextos, evalúa la clasificación de alto riesgo del artículo 6 y el anexo III y los avisos del artículo 50. La etiqueta «sentimiento» del proveedor no determina qué hace el sistema.
Prohibido, de alto riesgo o permitido: dónde encaja tu caso
| Uso | Estado | Por qué |
|---|---|---|
| Inferir las emociones de los empleados a partir de su voz, por ejemplo la ira de los agentes de un centro de llamadas | Prohibido | Artículo 5, apartado 1, letra f), lugar de trabajo. Las directrices de la Comisión usan precisamente este ejemplo. |
| Inferir las emociones de los alumnos en un colegio o centro de formación | Prohibido | Artículo 5, apartado 1, letra f), centro educativo. |
| Inferir las emociones de los clientes a partir de su voz en una línea de atención | Evalúa la clasificación de alto riesgo | El punto 1.c del anexo III está sujeto a la clasificación del artículo 6. Evalúa el uso real y facilita el aviso del artículo 50.3 cuando corresponda. |
| Detectar la fatiga de un conductor o un piloto | No es reconocimiento de emociones | El considerando 18 excluye los estados físicos como el dolor o la fatiga. |
| Puntuar el sentimiento de las palabras de una transcripción | Fuera de la definición, a primera vista | No se tratan datos biométricos. Las directrices de la Comisión no son vinculantes, así que revisa las herramientas dudosas. |
| Inferir emociones en el trabajo por un motivo médico o de seguridad | Excepción, de interpretación estricta | Excepción del artículo 5, apartado 1, letra f). La Comisión indica que debe interpretarse de forma estricta, por lo que no cubre la vigilancia general del bienestar. |
Un sistema de reconocimiento de emociones (artículo 3, punto 39) identifica o infiere emociones o intenciones a partir de datos biométricos. La voz cuenta cuando se procesa para medir características de quien habla. Detectar simplemente una expresión evidente, como una voz alzada, no basta salvo que se use para inferir una emoción.
Cómo se hace cumplir
Incumplir el artículo 5 puede costar hasta 35 millones de euros o el 7 % del volumen de negocio mundial anual, lo que sea mayor (artículo 99, apartado 3). No informar sobre un sistema de reconocimiento de emociones, una obligación del artículo 50, entra en el siguiente nivel: hasta 15 millones o el 3 % (artículo 99, apartado 4). Cada Estado miembro designa las autoridades nacionales que aplican la Ley, y las directrices de la Comisión son una ayuda no vinculante para interpretarla.
Qué revisar esta semana
- Haz una lista de cada herramienta que puntúe estado de ánimo, estrés, sentimiento o intención a partir de audio, vídeo o pulsaciones, incluidas las funciones dentro de software que ya licencias.
- De cada una, anota quién está expuesto: empleados, alumnos o clientes.
- Desactiva todo lo que infiera las emociones de empleados o alumnos, salvo que haya un motivo médico o de seguridad documentado.
- Para clientes, evalúa la clasificación del artículo 6 y el anexo III, facilita los avisos necesarios y determina si necesitas una EIPD.
- Pregunta por escrito a cada proveedor qué infiere el sistema y a partir de qué datos.
Envíanos las funciones de voz que valoras y a quién analizan. Describiremos su funcionamiento para que tu equipo jurídico evalúe el uso previsto.
Revisa tus funciones de IA de vozFAQ
¿Está prohibido en la UE el reconocimiento de emociones por voz?
El artículo 5.1.f prohíbe con carácter general inferir emociones mediante biometría en trabajo y educación, salvo razones médicas o de seguridad. Otros usos requieren evaluar el artículo 6, el anexo III, el artículo 50 y la protección de datos.
¿Puede un centro de llamadas analizar las emociones de sus clientes?
Que se analice a un cliente no demuestra por sí solo que el uso sea lícito. Comprueba si la herramienta infiere emociones mediante biometría, analiza también a empleados, entra en el anexo III y cumple el RGPD. Informa cuando corresponda y evalúa la necesidad de una EIPD antes de usarla.
¿La voz es siempre un dato biométrico?
No por sí sola. Una grabación es audio hasta que se procesa para medir características de quien habla, algo que cubre la definición de datos biométricos de la Ley de IA (artículo 3, punto 34). El RGPD solo trata los datos biométricos como categoría especial cuando se usan para identificar de forma unívoca a una persona (artículo 9).
Fuentes
- Reglamento (UE) 2024/1689 (Ley de IA), artículos 3, 5, 50 y 99, anexo III y considerando 18, Diario Oficial de la UE
- Comisión Europea, Directrices sobre las prácticas de inteligencia artificial prohibidas (C(2025) 5052, 29 de julio de 2025, no vinculantes)
- Reglamento (UE) 2026/1744 (Ómnibus Digital sobre IA), fecha de aplicación de los sistemas del anexo III, Diario Oficial de la UE
- Reglamento (UE) 2016/679 (RGPD), artículo 9, Diario Oficial de la UE
Sobre el autor
Erik Salo Akimov · Cofundador · Ingeniería
Erik dirige la ingeniería en ESADEX. Diseña las plataformas, la infraestructura y los controles de seguridad que sostienen los sistemas de los clientes.
