Bosch crea un código ético que regirá el uso que hace la compañía de la inteligencia artificial

Este es uno de los temas más controvertidos que giran en torno a la inteligencia artificial, ya que las aplicaciones de IA se usan cada vez más en aplicaciones que tienen una influencia directa en la toma de decisiones. Esto tiene consecuencias para el negocio, pero también para las personas, ya que en el análisis y el tratamiento de los datos personales se introduce un factor de riesgo por un posible sesgo que genere discriminación. 

Además, está la cuestión de la privacidad de los datos, un asunto crucial cuando se trata del manejo de información personal. Debido a estos riesgos se está instalando una tendencia en las organizaciones hacia la implementación de normas que rijan el uso de la inteligencia artificial, y el fabricante Bosch es un ejemplo de ello. Hace unos meses anunció que integraría la inteligencia artificial en su organización y, ahora, ha creado un nuevo código para reglar la forma en que se usa esta tecnología.

Recomendados:  Informe IT Trends: 2020, el año de la consolidación digital Leer Ciberseguridad en 2020, ¿qué podemos esperar? Registro.  Tendencias TI 2020, visionando el futuro. Webinar ondemand.

El objetivo de la compañía es doble. A nivel interno, quiere garantizar su control sobre el uso de la inteligencia artificial, asegurándose de que los empleados siguen unas normas concretas para el uso de esta tecnología. Y, a nivel externo, pretende que las personas confíen más en sus productos basados en IA y a la vez fortalecer sus alianzas con una nueva generación de socios vinculados a los dispositivos conectados e inteligentes, una tendencia emergente tanto en el hogar como en las oficinas y otros entornos de trabajo.

Como ha destacado en una reciente conferencia Volkmar Denner, CEO de Bosch, su código ético para la IA se basa en la máxima de que los humanos deben ser el árbitro en cualquier decisión basada en la inteligencia artificial, ya que esta tecnología debe estar al servicio de las personas. Y en su comunicado oficial señalan que su código de ética de IA proporciona una guía clara a los empleados para el desarrollo de productos basados que integren esta tecnología.

Esto va a tener una importancia capital para la compañía en los próximos años, ya que para 2025 se han impuesto el objetivo de que cada producto de Bosch integrará inteligencia artificial o habrá sido desarrollado con su ayuda. Y tiene claro que quiere que sus productos basados en IA sean seguros, robustos y explicables. Para Michael Bolle, CDO y CTO de la compañía, “si la AI es una caja negra, entonces la gente no confiará en ella. En un mundo conectado, la confianza será esencial”. Siguiendo esta estrategia, Bosch pretende formar a unos 20.000 empleados en el uso de la inteligencia artificial durante los dos próximos años, y su nuevo código de ética de IA será parte del programa de capacitación. 

Una de las características fundamentales de este conjunto de normas es que la IA no podrá toar decisiones que afecten directamente a las personas sin la supervisión de los humanos. Y describe tres posibles enfoques sobre los productos basados en IA. El primero, denominado human-in-command, indica que los humanos deben tener el control sobre cualquier decisión tomada por la tecnología. El segundo, human-in-the-loop, se refiere a cuando un sistema inteligente toma decisiones automáticamente, pero estas pueden ser revocadas en cualquier momento por los humanos. 

El tercero, human-on-the-loop, se refiere a sistemas en los que los humanos no intervienen en la toma de decisiones, quizá el caso más crítico en lo que a ética se refiere. Como ejemplo, ponen un sistema de frenado de emergencia en los vehículos, por lo que los ingenieros deben diseñar estos sistemas de acuerdo a unas normas que muy claras, probarlos a fondo y, si cabe, ajustar los parámetros cuando corresponda para mejorar el funcionamiento.

Lo que está claro es que el fabricante alemán quiere seguir a la vanguardia de la industria europea, adaptándose proactivamente a las nuevas tecnologías e invirtiendo en investigación y desarrollo para seguir avanzando. En palabras de Denner, “dado que la AI cambiará todos los aspectos de nuestras vidas. Por eso, este debate es vital”. Esto ha llevado a Bosch a participar en proyectos y organizaciones vinculadas al desarrollo de la inteligencia artificial en todo el mundo, y continuará con este enfoque innovador de cara al futuro.