La carrera por la automatización esconde riesgos ocultos

En un estudio reciente de la Electronic Frontier Foundation (EFF) se revela que muchas organizaciones están tratando de implementar la automatización a toda costa, y en muchos casos están haciendo un trabajo chapucero. Al parecer, están implementando tecnologías que se pueden considerar de “mala calidad”, lo que podría tener consecuencias graves para la propia empresa. Esto sucede por la urgencia de sobrevivir a la pandemia, que trae recortes de personal y de presupuestos, y dificulta la supervisión de las instalaciones y los sistemas.

Recomendados:  WEBINAR >> Teletrabajo: productividad, flexibilidad y seguridad a pleno rendimiento Registro  WEBINAR >> Autenticación y gestión de identidades, el nuevo perímetro de seguridad Registro

Según la EFF, los mayores ejemplos de implementación exitosa de automatización son los gigantes tecnológicos, que están apostando por una moderación en el uso de algoritmos de IA y aprendizaje automático, a los que aplican una dosis alta de supervisión humana. Mientras tanto, hay otras empresas que quieren correr más, y que no están teniendo en cuenta este principio de avance sostenible, lo que se traduce en contratar a empleados mal pagados para estas implementaciones y en no llevar a cabo una adecuada supervisión de las automatizaciones.

Como comentan en su informe, la preocupación de los expertos de la Fundación se centra en que la automatización no funciona a escala y cuando se aplica a este nivel afecta negativamente al funcionamiento general de los sistemas, como han demostrado los primeros intentos de dar estos pasos por parte de algunas empresas importantes. Aquí surgen los mayores problemas de sesgo y de mala interpretación de la información, que pueden llevar a errores graves.

Para evitarlos, un grupo de empresas e instituciones académicas vinculadas al desarrollo de las tecnologías de automatización más avanzadas desarrollaron lo que se conoce como los “Principios de Santa Clara”. Se trata de un conjunto de mejores prácticas que pretenden impulsar la transparencia, la notificación y los procesos de apelación para las decisiones de eliminación de contenido, un campo en el que los gigantes de las redes sociales han aplicado tecnologías de automatización.

Este enfoque no se circunscribe solamente a las plataformas de difusión de contenidos en Internet, sino que los expertos en el tema creen que puede aplicarse a otras industrias en las que se quiere utilizar la automatización para el trabajo con datos y otras categorías de información digital. Y, además, recomiendan que cada industria trabaje en desarrollar sus propios códigos de buenas prácticas, lo que les permitirá aprovechar correctamente las tecnologías de automatización sin incurrir en errores que podrían acabar siendo fatales para las propias empresas.