{"id":933,"date":"2022-05-18T08:33:37","date_gmt":"2022-05-18T08:33:37","guid":{"rendered":"https:\/\/komorebi.ai\/?p=933"},"modified":"2023-03-10T12:29:45","modified_gmt":"2023-03-10T12:29:45","slug":"sesgos-en-la-ia","status":"publish","type":"post","link":"https:\/\/komorebi.ai\/es\/sesgos-en-la-ia\/","title":{"rendered":"Sesgos en la IA"},"content":{"rendered":"\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

<\/p>\n

La tecnolog\u00eda<\/strong> y el uso de la IA<\/strong>, ha generado grandes avances en el mundo actual; sin embargo, tambi\u00e9n ha creado una nueva discusi\u00f3n en torno a la \u00e9tica. En este post abordaremos el reto de los sesgos en la IA<\/strong>.<\/p>\n

<\/p>\n

La gran cantidad de aplicaciones y el gran poder de transformaci\u00f3n que supone el aumento del uso de la IA, presenta nuevos desaf\u00edos \u00e9ticos.<\/strong> En este contexto, el desarrollo de una regulaci\u00f3n para la inteligencia artificial se ha convertido en prioritario para muchas regiones.<\/p>\n

<\/p>\n

Aunque no es un tema sencillo, en la Uni\u00f3n Europea <\/strong>se empiezan a esbozar algunos acuerdos en temas de regulaci\u00f3n en el campo. Espa\u00f1a<\/strong> ha generado un primer borrador de un marco legal<\/strong> sobre el cual se incentiva a las empresas a invertir y crear IAs, con algunas reglas de juego definidas.<\/p>\n

<\/p>\n

<\/p>\n

\n
\"\"<\/figure>\n<\/div>\n

<\/p>\n

Dentro de las bases de regulaci\u00f3n<\/strong>, se se\u00f1ala que siempre debe haber un humano detr\u00e1s de las IA m\u00e1s sensibles. <\/strong>Es necesario tener siempre en cuenta el nivel de riesgo, principalmente, el humano debe hacer evaluaciones de dilemas \u00e9ticos y generar control de sesgos.<\/strong><\/p>\n

<\/p>\n

Hemos visto muchos ejemplos de experimentos<\/strong> realizados, con el mecanismo de aprendizaje de las IA. Normalmente, el sistema se alimenta de datos hist\u00f3ricos dando lugar a que los sesgos sean un riesgo latente y son una evidencia de todo el trabajo que queda por hacer.<\/p>\n

<\/p>\n

A continuaci\u00f3n, veremos una serie de ejemplos espec\u00edficos<\/strong> que evidencian algunos de los sesgos a los que se enfrenta la IA.<\/p>\n

<\/p>
\n

Sesgo Racial – PULSE (Photo Upsampling via Latent Space Exploration)<\/h2>\n

<\/p>\n

En primer lugar, hablam<\/i>os sobre PULSE<\/strong>. Consiste en una herramienta basada en inteligencia artificial <\/strong>capaz de \u201cdes-pixelar\u201d nuestras fotos<\/strong>. El sistema te permite subir una imagen pixelada<\/strong> de muy baja calidad y la convierte en una fotograf\u00eda realista<\/strong>.<\/p>\n

<\/p>\n

Hasta aqu\u00ed todo bien. \u00bfD\u00f3nde est\u00e1 el problema? <\/strong>Aunque en principio, es muy \u00fatil, la aplicaci\u00f3n demostr\u00f3 que a la hora de aumentar la resoluci\u00f3n, la IA produc\u00eda con mayor frecuencia caras de personas blancas que de personas de color (aunque la original de baja resoluci\u00f3n fuera una persona de color). En algunas ocasiones, cuando PULSE recib\u00eda im\u00e1genes de personas negras, latinas y asi\u00e1ticas las convierten en blancas.<\/strong><\/p>\n

<\/p>\n

PULSE<\/strong> no lleg\u00f3 a la fama por sus capacidades, sino porque se hizo viral por uno de los resultados que ofrec\u00eda basado en una imagen de Barack Obama<\/strong>, ex-presidente de los EEUU.<\/p>\n

<\/p>\n

\n
\"\"<\/figure>\n<\/div>\n

<\/p>\n

Este no es el \u00fanico ejemplo, lo mismo ocurri\u00f3 con Lucy Liu<\/strong>, que deja de tener rasgos asi\u00e1ticos.<\/strong><\/p>\n

<\/p>\n

<\/p>\n

\n
\"\"<\/figure>\n<\/div>\n

<\/p>
\n\n\n

 <\/h2>\n

Sesgo de G\u00e9nero – Selecci\u00f3n Personal Amazon<\/h2>\n

<\/p>\n

En segundo lugar, hablamos sobre lo que ocurri\u00f3 en Amazon. Hace algunos a\u00f1os, Amazon<\/strong> intentaba automatizar y agilizar el proceso de contrataci\u00f3n <\/strong>a trav\u00e9s de una IA. El sistema estaba dise\u00f1ado para general un sistema de calificaci\u00f3n por estrellas<\/strong> a cada candidato que permit\u00eda priorizar perfiles.<\/strong><\/p>\n

<\/p>\n

El proyecto sonaba como una gran idea. Sin embargo, el algoritmo se entren\u00f3 con el hist\u00f3rico de contrataciones de 10 a\u00f1os y la industria de la tecnolog\u00eda tradicionalmente ha tenido personal masculino, con lo que el algoritmo aprendi\u00f3 a priorizar hombres sobre mujeres.
<\/strong>
Finalmente, Amazon descart\u00f3 el proyecto<\/strong> ya que el proceso de contrataci\u00f3n a\u00fan debe tener criterios adicionales<\/strong> en los cuales no se ha podido reemplazar a un reclutador tradicional.<\/strong><\/p>
\n

<\/p>
\n

Google Translate<\/h2>\n

<\/p>\n

Google Translate<\/strong> es otro ejemplo de sesgo de g\u00e9nero. El traductor m\u00e1s usado del mundo, funciona con aprendizaje autom\u00e1tico<\/strong> a trav\u00e9s de ejemplos, utiliza textos ya traducidos en internet, para poder obtener el contexto de las frases y no solo de palabras.<\/strong><\/p>\n

<\/p>\n

Sin duda, Google Translate nos facilita la vida a todos, pero cuando se traduce desde idiomas neutros que no usan pronombres femeninos o masculinos, el traductor, que usa los datos disponibles en la red<\/strong>, tiende a estereotipar las traducciones por g\u00e9nero<\/strong>.<\/p>\n

<\/p>\n

Por ejemplo:<\/strong> El h\u00fangaro<\/strong> utiliza el pronombre \u201c\u0151\u201d para referirse a \u00e9l o ella, el traductor toma la decisi\u00f3n de pronombre basado en los t\u00e9rminos de mayor uso en la red. Dado esto, selecciona que el verbo cocinar se conjuga con el pronombre \u201cella\u201d y la profesi\u00f3n de ingenier\u00eda se asocia con el pronombre \u201c\u00e9l\u201d.<\/strong><\/p>
\n

<\/p>\n

<\/p>\n

\"\"<\/figure>\n

<\/p>\n

 <\/h2>\n

Sesgo de Equidad – Algoritmo de predicci\u00f3n de crimen<\/h2>\n

<\/p>\n

Por \u00faltimo, tenemos un ejemplo relacionado con la seguridad<\/strong>. Hace poco se public\u00f3 un art\u00edculo en JSTOR.org<\/strong> que resaltaba algunos de los desaf\u00edos y riesgos del uso de la IA al ser aplicada para prevenir y predecir el crimen.<\/p>\n

<\/p>\n

El algoritmo predice d\u00f3nde se van a cometer m\u00e1s cr\u00edmenes<\/strong>, basados en datos hist\u00f3ricos.<\/strong> Con esta informaci\u00f3n, la polic\u00eda despliega una mayor cantidad de recursos en unas zonas determinadas, que se centran normalmente en barrios marginales.<\/strong> Esto genera un sesgo<\/strong>, ya que al aumentar la presencia policial en dichas zonas se descubren m\u00e1s delitos. Como estos datos alimentan nuevamente el sistema, se tiende a perpetuar estereotipos.<\/strong><\/p>\n

<\/p>\n

<\/p>\n

\n
\"\"<\/figure>\n<\/div>\n

<\/p>\n

En resumen, los anteriores son solo algunos ejemplos de sesgos<\/strong> que se han encontrado en la ejecuci\u00f3n de pruebas de algoritmos<\/strong>; sin embargo, a\u00fan nos espera un largo camino en desarrollo y reglamentaci\u00f3n<\/strong>.<\/p>\n

<\/p>\n

Citando a Audrey Azoulay, Directora General de la Unesco \u201cEl mundo necesita reglas para que la inteligencia artificial beneficie a la humanidad. La Recomendaci\u00f3n sobre la \u00e9tica de la IA es una respuesta importante.\u201d<\/strong><\/p>\n

<\/p>\n

Como desarrolladores de IA<\/strong>, no le tememos al avance tecnol\u00f3gico, ya que somos conscientes<\/strong> de que el uso de estas nuevas herramientas supone grandes retos<\/strong>, pero sobre todo, una gran responsabilidad<\/strong>, en la cual el ser humano ser\u00e1 ficha clave en la generaci\u00f3n de valor y en la supervisi\u00f3n de la puesta en marcha y uso responsable de las distintas \u00e1reas de aplicaci\u00f3n que pueda tener la IA<\/strong>.<\/p>\n

<\/p>\n

En pr\u00f3ximas publicaciones revisaremos otros temas relevantes con respecto a la \u00e9tica en el uso de IA. Si ten\u00e9is alg\u00fan comentario, duda o quer\u00e9is sugerir alg\u00fan tema de inter\u00e9s relacionado; no dud\u00e9is en escribirnos a consulta@komorebi.ai<\/b><\/a>, estaremos encantados de escucharos.<\/p>\n

<\/p>\n

Referencias:<\/strong><\/p>\n

<\/p>\n