El Supervisor Europeo de Protección de Datos (en adelante “SEPD”) publicó el pasado 23 de octubre su opinión 44/2023, en la que se posiciona respecto de la Propuesta de Reglamento de Inteligencia Artificial (en adelante, “IA), y aborda una serie de cuestiones que resultan fundamentales en materia de protección de datos, entre las que destacan las siguientes:
- El SEPD reitera que aquellos sistemas de IA que ya estén en uso a la fecha de aplicabilidad del Reglamento de IA no deben quedar exentos del ámbito de aplicación del Reglamento, tal y como, a día de hoy, establece la Propuesta de Reglamento.
- Asimismo, en opinión del SEPD, la posibilidad de no considerar de “alto riesgo” determinados sistemas en función de la accesoriedad de la información de salida del sistema es algo que suscita preocupación, ya que, otorga un margen de discrecionalidad demasiado amplio al proveedor del sistema de IA para evaluar si la información de salida del sistema es “puramente accesoria” para la toma de decisiones.
- La opinión del SEPD 44/2023 también establece que la certificación de los sistemas de IA deberá contener una verificación de cumplimiento de la protección de datos por diseño y por defecto.
- En opinión del SEPD, es necesario que el futuro Reglamento de IA prevea la posibilidad de que la persona afectada por el uso de un sistema de IA tenga el derecho a presentar una denuncia ante la autoridad de control, así como el derecho a acudir a la vía judicial.
- En caso de los sistemas de IA calificados “de alto riesgo”, el SEPD recomienda que se garantice al usuario una mínima intervención humana, y que, en vista de las decisiones que le afecten, tenga la posibilidad de impugnar el resultado. En este punto, el SEPD también considera necesaria la inclusión en el Reglamento de IA de un derecho en favor del usuario que le permita recibir cualesquiera explicaciones sobre aquellas decisiones que le afecten significativamente.
