La Comisión Europea (en adelante, “CE”) ha publicado el informe “Analysis of the generative AI landscape in the European public sector”. El documento recoge un mapeo de políticas, directrices y casos de uso de Inteligencia Artificial Generativa (en adelante, “IAG”) en administraciones públicas de toda la UE.
El informe de la CE busca analizar la manera en la que las administraciones públicas europeas están utilizando IAG. Para ello, el informe se centra en el análisis de políticas y directrices existentes para regular el uso de la IAG, así como en el análisis de casos de uso reales de distintas administraciones públicas.
Algunas cuestiones de interés del informe:
- Supervisión humana y responsabilidad legal: Las directrices publicadas en países como Viena, Italia, Irlanda y Portugal, entre otras, insisten en que ningún contenido debe automatizar decisiones sin supervisión.
- Privacidad y gobernanza de los datos: La totalidad de políticas revisadas por la CE en el marco de la elaboración del informe coinciden en la importancia de proteger los datos personales conforme al RGPD. Por ejemplo, la CNIL y el gobierno polaco, han publicado directrices que prohíben el uso de datos confidenciales en determinadas herramientas de IAG abiertas.
- Transparencia y explicabilidad: Hasta 29 documentos analizados por la CE exigen que las administraciones indiquen cuándo un contenido ha sido generado por IA.
- Robustez técnica, equidad y sostenibilidad: Más de 20 directrices advierten sobre los riesgos de «alucinaciones» (outputs falsos o sesgados) y exigen revisiones humanas sistémicas. Algunas directrices también promueven la equidad y accesibilidad a esta tecnología, así como el respeto al medio ambiente.
