La Comisión Europea, a través de la Oficina de IA de la UE, ha publicado un documento que recoge el análisis de las respuestas obtenidas en las consultas públicas sobre la definición de sistemas de IA y las prácticas prohibidas en el marco del Reglamento Europeo de Inteligencia Artificial (en adelante, ”RIA”).
El informe tiene como finalidad sintetizar las opiniones de una amplia gama de partes interesadas (en total, 381 participantes), para evaluar la claridad, aplicabilidad y coherencia de la definición legal de sistema de IA y las prohibiciones recogidas en el artículo 5 del RIA.
En relación con la definición de sistema de IA, destacan las siguientes aportaciones:
- Ambigüedad de conceptos: El Informe refleja que existe una fuerte demanda de clarificación técnica en torno a los términos “adaptabilidad”, “autonomía” e “inferencia”.
- Riesgo de sobrerregulación: Muchos participantes en la consulta pública expresaron su preocupación por que sistemas como los basados en reglas fijas o regresiones lineales, sean incluidos de forma innecesaria dentro del ámbito del RIA, generando cargas regulatorias injustificadas.
En relación con las prácticas prohibidas:
- Falta de definiciones operativas: Conceptos como “técnicas subliminales”, “manipulación”, “explotación de vulnerabilidades” o “daño significativo” son considerados demasiado vagos por los participantes. Se solicita que la Comisión los defina con precisión, acompañados de ejemplos prácticos y métricas evaluables.
- Reconocimiento emocional y categorización biométrica: Estos sistemas suscitan especial preocupación entre los participantes. Se pide claridad sobre cuándo son admisibles (por ejemplo, en contextos sanitarios) y cuándo vulneran derechos fundamentales.
- Preocupación por el social scoring: Las consultas recogen un consenso amplio sobre el riesgo de estas prácticas. Se exigen criterios para distinguir el uso legítimo de perfiles (ej. evaluación crediticia) del scoring basado en conductas sociales o datos no relacionados.
