La inteligencia artificial (IA) se ha convertido en una herramienta cada vez más habitual en los canales de atención al cliente de bancos, clínicas, aseguradoras, comercios y empresas de servicios.
Actualmente, asistentes virtuales pueden responder consultas, analizar reclamos, recomendar productos y gestionar solicitudes durante las 24 horas. Sin embargo, el desarrollo de los llamados agentes de IA está ampliando considerablemente las tareas que estas tecnologías pueden realizar.
A diferencia de los tradicionales chatbots, estos sistemas pueden conectarse con plataformas internas, revisar antecedentes, actualizar información, iniciar procesos e incluso ejecutar acciones para cumplir determinados objetivos.
El avance de estas tecnologías ha generado debate sobre los límites que deberían tener dentro de las organizaciones.
Dario Amodei, CEO y cofundador de Anthropic —empresa responsable del modelo de inteligencia artificial Claude— ha advertido sobre la necesidad de que los mecanismos de seguridad y supervisión avancen junto con las capacidades de estos sistemas.
De responder preguntas a ejecutar acciones
Para Julio Farías, ingeniero informático y cofundador de Zerviz, empresa especializada en experiencia de cliente e implementación de soluciones tecnológicas, las compañías también deben considerar estos riesgos al implementar inteligencia artificial en sus canales de atención.
“Estamos pasando de una inteligencia artificial que responde a otra que puede actuar. Una cosa es que un bot informe el saldo de una cuenta y otra muy distinta es que modifique datos, gestione una devolución o recomiende un producto financiero”, explicó.
Según el especialista, mientras mayor sea la capacidad de estos sistemas para realizar acciones, también deberían existir mayores controles y límites sobre su funcionamiento.
¿Qué pasa si un bot entrega una respuesta equivocada?
Uno de los principales riesgos surge cuando un asistente virtual entrega información incorrecta, interpreta de manera errónea una solicitud o adopta una decisión que termina perjudicando al cliente.
Farías plantea que las empresas deberían informar claramente cuando una persona está interactuando con inteligencia artificial y explicar qué tipo de operaciones puede realizar el sistema.
Además, considera fundamental que exista la posibilidad de solicitar la intervención de una persona cuando el problema no pueda solucionarse mediante el canal automatizado.
“Si un bot se equivoca se debe garantizar que el usuario pueda acceder a una revisión humana”, afirmó.
En la práctica, esto implica que si una respuesta automatizada afecta una devolución, una modificación de datos o cualquier procedimiento relevante, el cliente debería poder pedir que el caso sea revisado nuevamente por un trabajador de la empresa.
Mayor control en decisiones sensibles
Antes de implementar estas herramientas, las organizaciones también deberían establecer qué información puede consultar una IA, qué permisos tendrá y qué operaciones podrá ejecutar sin intervención humana.
En decisiones que puedan tener un impacto económico, contractual o relacionado con información sensible, el experto plantea que deberían existir controles adicionales, registros de las acciones realizadas y mecanismos que permitan corregir posibles errores.
La supervisión, además, no debería comenzar únicamente después de que ocurra un problema.
Entre las medidas recomendadas se encuentran realizar pruebas antes de implementar los sistemas, monitorear sus respuestas, mantener un registro de las acciones ejecutadas y establecer protocolos para corregir decisiones incorrectas.
También resulta necesario capacitar a los equipos encargados de utilizar estas tecnologías y definir quién será responsable de revisar posibles errores o reclamos.
“La IA puede mejorar significativamente la atención, pero debe operar dentro de límites definidos por la organización y bajo la responsabilidad de personas identificables”, concluyó Farías.
El desafío para las empresas será incorporar estas tecnologías sin eliminar por completo la supervisión humana. A medida que los sistemas de inteligencia artificial adquieren mayores capacidades para actuar, también aumenta la necesidad de contar con mecanismos que permitan explicar, revisar y corregir sus decisiones.
Ver Video
