Equilibrando eficiencia y privacidad: El enfoque de Synology en el soporte al cliente impulsado por IA

En marzo, un conglomerado coreano levantó una prohibición sobre el uso de GenAI, solo para restablecerla semanas después, cuando los empleados compartieron información interna sensible, incluyendo código propietario y una grabación de una reunión. Este incidente resalta que, aunque las organizaciones buscan aprovechar la IA para aumentar la productividad, también deben gestionar y controlar simultáneamente los riesgos de fuga de datos. Para prevenir situaciones como la mencionada, mientras se aprovechan las tecnologías avanzadas de IA, Synology ha implementado técnicas integrales de desidentificación y estrictos mecanismos de control dentro de nuestro flujo de trabajo. Esto garantiza un manejo responsable de la información del cliente y mantiene altos estándares de seguridad y privacidad de datos.

Synology ha desarrollado un sistema de Generación Aumentada por Recuperación (RAG) para mejorar la eficiencia y precisión de nuestro soporte técnico. También hemos creado una base de datos de casos de soporte acreditados del último año, que proporciona información actualizada y específica sobre productos y soluciones de Synology aprobada por ingenieros de soporte técnico profesional. Cuando se recibe una nueva solicitud, el sistema RAG analiza la pregunta del cliente y recupera resoluciones relevantes de la base de datos, lo que resulta en respuestas de mayor calidad en comparación con las generadas por GenAI entrenadas con datos públicos.

Este sistema se basa en la protección de la privacidad del cliente mediante un mecanismo integral de desidentificación que garantiza que todos los datos de casos pasados y de tickets recibidos recientemente se anonimicen antes de ser utilizados:

Identificación mediante Regex: expresiones Regulares (Regex) identifican patrones como correos electrónicos y números de teléfono en los tickets de soporte.
Reconocimiento de Entidades Nombradas (NER): desplegado con procesamiento de lenguaje natural para detectar entidades comprendiendo su contexto.
Validación de Suma de Verificación (Checksum): asegura la precisión de estos patrones. Análisis de contexto: analiza el texto circundante para aumentar la confianza en la detección. Técnicas de anonimización: protegen la información sensible detectada.

Lo más importante es que este proceso integral de desidentificación se realiza en un entorno compatible con el RGPD, asegurando un cumplimiento normativo completo y la anonimización de los datos. Después de la re-procesamiento para la desidentificación, todas las respuestas generadas por IA pasan por dos mecanismos de control en el sistema para verificaciones de políticas, con el fin de evitar la divulgación involuntaria de información sensible o el consejo potencialmente dañino.
Verificación de Políticas Internas: el primer control verifica si hay violaciones de políticas internas o cualquier riesgo de pérdida de datos para los usuarios. Por ejemplo, si un ticket solicita archivos de instalación, versiones de DSM o aplicaciones que podrían afectar los entornos existentes de los usuarios, asistencia con problemas comunes de vulnerabilidades y exposiciones (CVE), o hace referencia a otros tickets de soporte, el sistema detiene la respuesta y proporciona un resumen de los principales factores que guían la decisión al ingeniero de soporte técnico para una posible escalada.
Verificación de seguridad del contenido: el segundo control garantiza que las respuestas generadas no proporcionen información sensible como comandos de consola, detalles de acceso remoto u otros datos contextualmente precisos que pueden no estar disponibles o ser inapropiados en ciertos escenarios. Después de pasar este control, el sistema decidirá finalmente si responde automáticamente o pasa el ticket al personal de soporte para su revisión.

Este flujo de trabajo automatizado impulsado por IA ha mejorado significativamente la precisión y relevancia de las respuestas, mejorando nuestros tiempos de respuesta veinte veces. Al implementar rigurosos procesos de desidentificación y robustos mecanismos de control, aseguramos la confidencialidad de los datos y nos adherimos a estrictos protocolos de privacidad. A través de nuestra experiencia en el desarrollo del sistema de soporte al cliente impulsado por IA, hemos comprendido plenamente que, aunque la IA tiene poderosas capacidades para resolver problemas, debe estar estrictamente controlada con mecanismos de revisión y control para garantizar un equilibrio entre eficiencia y privacidad. En el futuro, Synology mantendrá su compromiso con la privacidad y aprovechará el potencial de la IA mientras protege los valiosos datos de los clientes.