{"id":29663,"date":"2024-01-23T13:01:04","date_gmt":"2024-01-23T12:01:04","guid":{"rendered":"https:\/\/www.lksnext.com\/?p=29663"},"modified":"2024-02-06T15:06:56","modified_gmt":"2024-02-06T14:06:56","slug":"es-necesario-regular-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/www.lksnext.com\/es\/es-necesario-regular-la-inteligencia-artificial\/","title":{"rendered":"\u00bfEs necesario regular la Inteligencia Artificial?"},"content":{"rendered":"

Las tecnolog\u00edas de inteligencia artificial (IA) est\u00e1n presentes en nuestras vidas desde hace ya tiempo. Nos recomiendan qu\u00e9 canciones escuchar, optimizan procesos productivos de nuestra industria, ayudan en el diagn\u00f3stico cl\u00ednico, arrojan resultados en nuestras b\u00fasquedas de internet, predicen el riesgo de comisi\u00f3n de delitos, traducen autom\u00e1ticamente y, m\u00e1s recientemente, generan contenido en forma de textos, im\u00e1genes, v\u00eddeos y audios.<\/p>\n

La inteligencia artificial necesita datos; especialmente en el caso del aprendizaje autom\u00e1tico, para entrenar el modelo de IA se requieren grandes conjuntos de datos que permitan la detecci\u00f3n de patrones y el descubrimiento de correlaciones. Se considera que, en general, para su \u201caprendizaje\u201d necesita mil veces m\u00e1s datos que un ser humano.<\/p>\n

Si los datos utilizados son personales, debe cumplirse la normativa de protecci\u00f3n de datos y, en particular, deben respetarse sus principios, que nos obligan a disponer de una base legal adecuada que nos permita tratar los datos, informar sobre lo que pretendemos hacer con ellos, no desviarnos de esa finalidad, usar los datos m\u00ednimos necesarios y garantizar una seguridad adecuada.<\/p>\n

Recordamos que la normativa de protecci\u00f3n de datos vela por que las personas est\u00e9n protegidas frente a usos de sus datos personales que puedan suponer un alto riesgo para sus derechos y libertades. As\u00ed, si esta normativa se respetara, una aplicaci\u00f3n destinada a desnudar personas de manera hiperrealista nunca deber\u00eda salir al mercado, ya que no superar\u00eda la evaluaci\u00f3n de impacto.<\/p>\n

Esta normativa tambi\u00e9n establece salvaguardas adicionales cuando se utilizan datos biom\u00e9tricos, por considerar que su tratamiento puede tener consecuencias perjudiciales (imaginemos una suplantaci\u00f3n de identidad o una identificaci\u00f3n no deseada). Asimismo, regula cu\u00e1ndo y c\u00f3mo es posible apoyarse en decisiones automatizadas que afectan de manera significativa a una persona (por ejemplo, para contratarla o denegarle un cr\u00e9dito) y exige en estos casos informar sobre la l\u00f3gica que ha aplicado la decisi\u00f3n automatizada. Porque, si no conocemos c\u00f3mo se ha llegado a una determinada decisi\u00f3n \u00bfpodr\u00edamos rebatirla?<\/p>\n

Entonces, si ya disponemos de una normativa como la de protecci\u00f3n de datos, que protege a las personas cuando se tratan sus datos personales, especialmente cuando son objeto de decisiones automatizadas (como las que adopta un sistema de inteligencia artificial), \u00bfrealmente es necesario regular la inteligencia artificial de manera espec\u00edfica como pretende la Uni\u00f3n Europea?<\/p>\n

La respuesta, en mi opini\u00f3n, es un s\u00ed rotundo.<\/em><\/p>\n

Cuando nos montamos en un ascensor, adquirimos un juguete, utilizamos una m\u00e1quina, o conducimos un veh\u00edculo, confiamos en que sean seguros y que su utilizaci\u00f3n no nos cause ning\u00fan perjuicio. Esta idea de seguridad y fiabilidad es precisamente la que subyace en la normativa de inteligencia artificial que est\u00e1 preparando la Uni\u00f3n Europea y que previsiblemente se publicar\u00e1 a principios de 2024, si bien su aplicaci\u00f3n se demorar\u00e1 entre uno y dos a\u00f1os.<\/p>\n

Los sistemas de inteligencia artificial se destinan a usos muy variados, algunos de los cuales pueden suponer un alto riesgo para la salud, la seguridad o los derechos fundamentales de las personas. Pensemos en sistemas de IA capaces de detectar nuestras emociones a trav\u00e9s de se\u00f1ales biom\u00e9tricas (expresiones faciales, tono de voz), o que permitan a los tribunales aplicar la ley, o que se utilicen como componente de seguridad en el funcionamiento de una instalaci\u00f3n cr\u00edtica.<\/p>\n

La nueva normativa europea, adem\u00e1s de prohibir ciertas pr\u00e1cticas, pretende que los sistemas de IA de alto riesgo est\u00e9n controlados en todo su ciclo de vida y cumplan ciertos requisitos regulatorios, que garanticen que su funcionamiento sea seguro y no vulnere derechos fundamentales.<\/p>\n

A pesar de su bondad, este Reglamento suscita algunas cuestiones: \u00bfqui\u00e9n clasifica el sistema como de alto riesgo? \u00bfqu\u00e9 ocurre con los sistemas preexistentes a la fecha de aplicaci\u00f3n del Reglamento -que, en principio, no est\u00e1n obligados a cumplirlo-? \u00bfde qu\u00e9 recursos humanos y materiales dispondr\u00e1n las autoridades competentes para aplicar este Reglamento en sistemas de IA opacos y complejos? \u00bfsolo podremos controlar y auditar la inteligencia artificial con inteligencia artificial? \u00bfc\u00f3mo evitar los usos delictivos de la IA?<\/p>\n

Con todo, desde nuestra experiencia asesorando legalmente en proyectos de I+D+i, la innovaci\u00f3n y el desarrollo tecnol\u00f3gico son posibles dentro de un marco jur\u00eddico dotado de flexibilidad, y las organizaciones deben tener presente el futuro marco regulatorio e incorporar, desde el rol que les corresponda, la gesti\u00f3n integral de la inteligencia artificial y la gobernanza de datos.<\/p>\n

\"\"<\/p>\n

Luc\u00eda Arriola<\/strong><\/p>\n

LKS Next LEGAL<\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

Las tecnolog\u00edas de inteligencia artificial (IA) est\u00e1n presentes en nuestras vidas desde hace ya tiempo. Nos recomiendan qu\u00e9 canciones escuchar, optimizan procesos productivos de nuestra industria, ayudan en el diagn\u00f3stico cl\u00ednico, arrojan resultados en nuestras b\u00fasquedas de internet, predicen el riesgo de comisi\u00f3n de delitos, traducen autom\u00e1ticamente y, m\u00e1s recientemente, generan contenido en forma de […]<\/p>\n","protected":false},"author":2,"featured_media":29673,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","inline_featured_image":false,"footnotes":""},"categories":[1,165,177],"tags":[],"class_list":["post-29663","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","category-legal","category-lks-next"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/posts\/29663","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/comments?post=29663"}],"version-history":[{"count":0,"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/posts\/29663\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/media\/29673"}],"wp:attachment":[{"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/media?parent=29663"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/categories?post=29663"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/tags?post=29663"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}