Avances en la inteligencia artificial explicable

  • Inteligencia Artificial

GMV Inteligencia Artificial

Las preocupaciones en torno a la opacidad de la IA y los riesgos asociados a ella, como el sesgo en el procesamiento de la información, han cambiado la forma de entender esta tecnología. Usuarios, gobiernos y empresas demandan una inteligencia artificial explicable, un cambio de concepto en torno a su desarrollo que el año que viene comenzará a impactar en la industria, con nuevas propuestas que se irán expandiendo progresivamente.

Recomendados: 

Empresas data driven: estrategias de datos para marcar la diferencia Evento 

Entendiendo la Era del dato: tecnologías y propuestas para gestionar la "datificación" Webinar 

Una de las tecnologías más disruptivas es la inteligencia artificial y, a pesar de que se encuentra en una etapa relativamente temprana de su desarrollo, ya proporciona muchos beneficios en el tratamiento automático de los datos, habilitando nuevos niveles de automatización que están captando el interés de muchos sectores. Pero la complejidad de los algoritmos hace muy difícil su comprensión por parte de los usuarios, y existe una gran opacidad sobre forma en que se diseñan y se desarrollan los algoritmos. Por ello, se requiere de personal altamente cualificado para entender su funcionamiento, y para evaluar adecuadamente los riesgos que conlleva dejarla al cargo del tratamiento de la información.

La respuesta a estos desafíos se encuentra en el concepto de inteligencia artificial explicable (XAI), que pretende crear un conjunto de herramientas y marcos que ayuden a desarrollar modelos de inteligencia artificial comprensibles y más inclusivos, sin necesidad de contar con los mayores expertos en la materia. Esto permitirá a los usuarios entender en profundidad cómo funcionan las aplicaciones basadas en la IA, así como monitorizar y pulir su funcionamiento.

En un reciente informe, los analistas de la firma GlobalData han estudiado cómo se encuentra el desarrollo de la inteligencia artificial explicable para determinar su avance a lo largo del próximo año. En general, esperan un avance significativo en el despliegue de XAI, aunque todavía falta tiempo para que se convierta en la tecnología dominante. El analista Robert Penman comenta que “2022 verá un mayor despliegue de XAI, lo que permitirá a las empresas identificar posibles discriminaciones en los algoritmos de sus sistemas”.

Considera que es vital que las empresas puedan corregir los modelos de IA para reducir los posibles sesgos y errores en el tratamiento de los datos, y aquellas que retrasen este avance se enfrentarán a una mayor vigilancia e intervención por parte de las autoridades, y a posibles pérdidas de reputación entre los clientes, que exigen una mayor transparencia sobre el uso de sus datos.

En su opinión, “reducir el sesgo humano presente en los conjuntos de datos de entrenamiento es un gran desafío en la implementación de XAI. Incluso el gigante tecnológico Amazon tuvo que descartar la herramienta de contratación que tenía desarrollo porque se decía que presentaba un claro sesgo contra las mujeres”. Las previsiones de GlobalData son que a partir del año que viene se intensificará la actividad de adquisiciones de empresas emergentes enfocadas en el desarrollo de una inteligencia artificial explicable, y ya se están viendo movimientos en este sentido, como la adquisición de AI.Reverie por parte del gigante Meta el pasado mes de octubre.

Penman explica que una vez que ha pasado el hype de la IA, ahora las organizaciones están poniéndola en práctica, y se están enfrentando a ciertas dificultades por la incapacidad para entender a fondo sus modelos y cambiaros para evitar problemas como el sesgo. Por ello, cree que la IA deberá volverse más práctica y discreta, permitiendo una integración exitosa en el software. Las grandes tecnológicas están trabajando en este sentido y el año que viene se verán avances en la implementación de XAI, pero queda tiempo para que se cambie del actual modelo de IA, que se basa en el uso de los macrodatos, por una inteligencia artificial más discreta, capaz de trabajar eficazmente con un volumen de información menor.