{"id":10150,"date":"2021-05-18T10:42:26","date_gmt":"2021-05-18T08:42:26","guid":{"rendered":"https:\/\/www.lksnext.com\/?p=10150"},"modified":"2021-05-19T11:57:40","modified_gmt":"2021-05-19T09:57:40","slug":"inteligencia-artificial-y-gestion-de-personas-una-mezcla-explosiva","status":"publish","type":"post","link":"https:\/\/www.lksnext.com\/es\/inteligencia-artificial-y-gestion-de-personas-una-mezcla-explosiva\/","title":{"rendered":"Inteligencia artificial y gesti\u00f3n de personas: una mezcla explosiva"},"content":{"rendered":"<p>Los que ya peinamos canas recordamos al <em>profesor Bacterio<\/em> de Mortadelo y Filem\u00f3n. Probaba sus nuevos inventos en los agentes y raramente funcionaban como se esperaba.<\/p>\n<p>La <strong>inteligencia artificial<\/strong> para la<strong> gesti\u00f3n de personas<\/strong> en las organizaciones no es un invento del profesor Bacterio, pero presenta algunos problemas que recuerdan a los experimentos que llevaba a cabo. La agilizaci\u00f3n y reducci\u00f3n de costes que supone para algunos procesos de gesti\u00f3n de personas presenta a la vez efectos no deseados y \u00e9ticamente reprobables. Una vez m\u00e1s la tecnolog\u00eda avanza m\u00e1s r\u00e1pido que la reflexi\u00f3n sobre sus efectos en las personas. Este art\u00edculo no pretende ser cool, ni trendic topic, ni vestirse de impostada modernidad.<\/p>\n<p><strong>Los riesgos con la AI, el machine learning y el internet de las cosas somos precisamente los humanos<\/strong>. Vamos a explicar c\u00f3mo funcionan estas herramientas. Todas estas herramientas\/tecnolog\u00edas se basan en la aplicaci\u00f3n de modelos que mediante algoritmos predicen el comportamiento futuro. Esos modelos se construyen partiendo de la elecci\u00f3n de un n\u00famero de variables determinado, es decir, son una representaci\u00f3n simplificada de la realidad. Si el n\u00famero de variables y la validez de estas es la adecuada, las probabilidades de predicciones acertadas ser\u00e1n mayores. De esa forma, por ejemplo, en base a la aplicaci\u00f3n de t\u00e9cnicas de<strong> big data<\/strong> podemos predecir cu\u00e1ndo ser\u00e1 necesario cambiar una pieza de una m\u00e1quina antes de que esta falle. Lo haremos en base a la elecci\u00f3n de una serie de variables (horas de producci\u00f3n acumuladas, tiempos de ciclo, variables ambientales, etc.) en las que combinaremos una econom\u00eda en la elecci\u00f3n de variables y la representatividad de estas. Cuanto m\u00e1s preciso sea nuestro modelo mayor ser\u00e1 la probabilidad de predecir el futuro y menores los da\u00f1os colaterales. Combinando big data con AI podemos retroalimentar el modelo para que aprenda y haga cada vez predicciones m\u00e1s precisas. En este ejemplo, un da\u00f1o colateral ser\u00eda cambiar la pieza demasiado tarde (cuando ha fallado y se ha parado la producci\u00f3n) o hacerlo demasiado r\u00e1pido y por tanto incrementar los costes de mantenimiento de forma artificial. En cualquier caso, costes asumibles para la obtenci\u00f3n de beneficios futuros, en modo de predicciones m\u00e1s acotadas.<\/p>\n<p>Los problemas con estas herramientas surgen cuando pasamos a aplicarlas con humanos. No somos objetos ni digitales, somos sujetos y por lo tanto anal\u00f3gicos. Cualquier \u201cdigitalizaci\u00f3n\u201d del ser humano no deja de ser una simplificaci\u00f3n de este. Concretando, estos son algunos de los<strong> riesgos que implica la AI aplicada a los seres humanos<\/strong>:<\/p>\n<ul>\n<li>Por un lado, los <strong>posibles da\u00f1os colaterales<\/strong> van algo m\u00e1s all\u00e1 de un coste econ\u00f3mico. Podemos estar condicionando la vida de personas en base a un modelo que por supuesto no siempre acierta. \u00a1Ni siquiera lo hacen al 100% en el mundo de las m\u00e1quinas! Esas personas pueden ser pre-seleccionadas o no, en base a la dictadura de un algoritmo (universidad en la que estudiaron, edad, g\u00e9nero, referencias aportadas, a\u00f1os de permanencia en una empresa, etc.) pero si de algo podemos estar seguros es que quien seleccion\u00f3 las variables a considerar, nunca podr\u00eda acoger en el algoritmo toda la riqueza de matices que tiene cada ser humano.<\/li>\n<li>Por otro lado, estos sistemas para que puedan aprender y mejorarse a s\u00ed mismos, <strong>necesitan aprender sobre las consecuencias de sus algoritmos previos<\/strong> para poder mejorarlos de forma din\u00e1mica. Eso es inteligencia artificial. Eso lo podemos hacer para predecir cu\u00e1ndo un usuario de Cabify va a pedir un coche, con el mantenimiento predictivo de m\u00e1quinas o con la predicci\u00f3n meteorol\u00f3gica, campos en los que se est\u00e1n consiguiendo grandes avances. En ninguno de los casos hay consecuencias \u00e9ticamente discutibles. Al tiempo le da igual que lo monitoricemos (seguir\u00e1 su propia evoluci\u00f3n), la m\u00e1quina se romper\u00e1 cuando le toque (no cuando preveamos que lo vaya a hacer) y que Cabify acerque a mi domicilio un coche de su flota porque prev\u00e9 que lo voy a solicitar, a m\u00ed no me afecta de ning\u00fan modo. El problema que presenta la aplicaci\u00f3n de la AI a los humanos es que no hay forma de retroalimentar el algoritmo para que este aprenda, sin que a la vez estemos interfiriendo en el sujeto sobre el que la aplicamos. Es una especie de f\u00f3rmula auto-referenciada. Como consecuencia, la hip\u00f3tesis sobre la que se construye el algoritmo no puede ser refutada y puede condicionar la realidad de tal forma que termine creando la realidad sobre la que se construyo la hip\u00f3tesis de partida.<\/li>\n<\/ul>\n<p>En consecuencia, aparece un nuevo problema: <strong>el sesgo del creador del algoritmo<\/strong>. Este sesgo (por ejemplo, en la elecci\u00f3n de las variables del modelo) condicionar\u00e1 la propia evoluci\u00f3n del aprendizaje y estar\u00e1 condicionando el comportamiento de las personas a las que se aplique dicho modelo.<\/p>\n<ul>\n<li>Por \u00faltimo,<strong> la AI es conservadora y no progresista.<\/strong> Me explico a trav\u00e9s de un ejemplo. Google ha desarrollado a trav\u00e9s de AI un servicio de traducci\u00f3n multiidiomas que todos utilizamos (Google translate). Este sistema aprende constantemente sobre las lenguas \u201cleyendo\u201d millones y millones de publicaciones. Pues bien, hay lenguas en las que el pronombre no tiene g\u00e9nero (euskera, h\u00fangaro, checo\u2026) y cuando Google tiene que traducir \u201cX es bell@\u201d lo traduce al g\u00e9nero femenino (ella es bella) y cuando tiene que traducir \u201cX es inteligente\u201d lo traduce al g\u00e9nero masculino (\u00e9l es inteligente). La AI de Google aprende que bello ha estado asociado m\u00e1s veces al g\u00e9nero femenino e inteligente al g\u00e9nero masculino. \u00bfVemos el lado conservador de la AI? \u00bfSi Google encara este tipo de problemas (y trata de solucionarlos) nos podemos imaginar los problemas que pueden encarar otros aprendices de brujo como el profesor Bacterio? \u00bfC\u00f3mo evitaremos por ejemplo en el \u00e1mbito de la selecci\u00f3n el sesgo de que las mujeres culminan con \u00e9xito menos procesos de selecci\u00f3n? \u00bfQueremos replicar la realidad pasada y actual o queremos transformar la sociedad para que sea m\u00e1s equitativa e igualitaria? \u00bfNo ser\u00eda parad\u00f3jico utilizar herramientas transformadoras como la AI para replicar modelos de sociedades anteriores? Ese es un riesgo real cuando aplicamos la AI a los humanos.<\/li>\n<\/ul>\n<p>La predicci\u00f3n que haga la AI del comportamiento humano condicionar\u00e1 el mismo irremediablemente. Y, \u00bfcu\u00e1nto tiempo y cu\u00e1ntos datos son suficientes para considerar que la AI est\u00e1 preparada para hacer predicciones y por lo tanto empezar a ser utilizada para tomar decisiones? Y mientras tanto, \u00bfQui\u00e9n asume los da\u00f1os colaterales de ese aprendizaje? Desde el mundo del derecho es un elemento en estudio y debate, pero desde una perspectiva \u00e9tica, creo que la responsabilidad es clara.<\/p>\n<p>Supongamos una AI que ha analizado millones de CV,s y entrevistas a candidatos y candidatas y es capaz de predecir si la persona candidata es adecuada para la empresa, cu\u00e1nto tiempo permanecer\u00e1 en ella como media, etc. \u00bfQu\u00e9 pasar\u00e1 con las personas que no se comportan como la AI espera? Y a su vez, \u00bfNo estar\u00e1 el modelo haciendo que la predicci\u00f3n inicial se convierta en realidad por el condicionamiento que hace de la propia realidad? La meteorolog\u00eda seguir\u00e1 su curso sin importarle la AI pero si mi modelo predice que las mujeres cogen m\u00e1s reducciones de jornada y por tanto las discrimina negativamente en un proceso de selecci\u00f3n, \u00bfno estamos condicionando precisamente la realidad futura?<\/p>\n<p>Tal y como avanzaba al inicio, este art\u00edculo no pretende ser ni cool, ni pretendidamente moderno. Pretende <strong>despertar la reflexi\u00f3n<\/strong> antes de que terminemos generalizando nuevas herramientas porque todo el mundo lo hace. En un mundo donde las maravillas de la tecnolog\u00eda nos deslumbran y la velocidad del cambio crece exponencialmente es dif\u00edcil no dejarse arrastrar por el trendic topic del momento; al fin y al cabo, en un mundo donde la est\u00e9tica pesa m\u00e1s que la \u00e9tica, hay que estar a la \u00faltima.<\/p>\n<p>Tal y como nos ilustra la matem\u00e1tica y experta en<em><strong> AI Cathy O,Neil<\/strong><\/em> estos algoritmos se est\u00e1n aplicando en el \u00e1mbito de la selecci\u00f3n (entre otros) para puestos poco cualificados, mientras que en los puestos cualificados son las personas quienes siguen dinamizando los procesos de selecci\u00f3n. Desgraciadamente la <strong>AI<\/strong> y el <strong>Big data<\/strong> est\u00e1n aumentando las desigualdades en diferentes \u00e1mbitos cuando son aplicadas a personas y no a objetos. Los profesionales en la gesti\u00f3n de personas tenemos el deber de sustentar un esp\u00edritu cr\u00edtico ante la AI si realmente consideramos que las personas son lo m\u00e1s valioso de nuestras organizaciones. No subestimemos sus potencialidades, pero seamos responsables en su aplicaci\u00f3n. Sigamos siendo personas.<\/p>\n<p><a href=\"https:\/\/es.linkedin.com\/in\/ander-sansinenea-79880111\" target=\"_blank\" rel=\"noopener\">Ander Sansinenea<\/a><\/p>\n<p>Director, Consultor\u00eda de Personas<\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Los que ya peinamos canas recordamos al profesor Bacterio de Mortadelo y Filem\u00f3n. Probaba sus nuevos inventos en los agentes y raramente funcionaban como se esperaba. La inteligencia artificial para la gesti\u00f3n de personas en las organizaciones no es un invento del profesor Bacterio, pero presenta algunos problemas que recuerdan a los experimentos que llevaba [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","inline_featured_image":false,"footnotes":""},"categories":[164],"tags":[],"class_list":["post-10150","post","type-post","status-publish","format-standard","hentry","category-consultoria"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/posts\/10150","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/comments?post=10150"}],"version-history":[{"count":0,"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/posts\/10150\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/media?parent=10150"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/categories?post=10150"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.lksnext.com\/es\/wp-json\/wp\/v2\/tags?post=10150"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}