Air Canada intentó afirmar que no era responsable de las falsas promesas de su chatbot, pero eso no funcionó en los tribunales.
¿Pueden los chatbots de IA aliviar la carga de los representantes de servicio al cliente? Muchas empresas parecen pensar que sí, pero es mejor que esperen que sus chatbots no causen el mismo problema que los de Air Canada. La aerolínea acaba de ser forzado ofrecer un reembolso parcial a un cliente, respetando una política de reembolso que su chatbot aparentemente inventó en el acto.
El incidente en cuestión le ocurrió a Jack Moffat, quien acudió al chatbot de Air Canada para ayudarlo a comprender la política de viajes de duelo de la aerolínea tras la muerte de su abuela. El chatbot explicó que era posible reservar un vuelo inmediatamente y solicitar un reembolso parcial dentro de los 90 días.
Desafortunadamente, la política de viajes por duelo de Air Canada establece que la aerolínea no proporcionará reembolsos por viajes una vez que se haya reservado el vuelo. Debido a esto, la solicitud de reembolso de Moffatt fue rechazada. Air Canada admitió que el robot tenía la culpa y, en su lugar, ofreció un vale de vuelo de 200 dólares y prometió actualizar el chatbot para garantizar que esto no vuelva a suceder.
No satisfecho, Moffatt presentó una demanda de reclamos menores ante el Tribunal de Resolución Civil de Canadá.
El argumento clave de Air Canada fue que, debido a que el chatbot se había vinculado a la página oficial de política de duelo, Moffatt debería haber sabido cuál era la situación. También argumentó que, en primer lugar, no se debería haber confiado en el chatbot y que la aerolínea no podía ser considerada responsable ya que el bit era una “entidad legal separada”.
Obviamente, el tribunal no se creyó esta excusa, especialmente porque Air Canada no explicó por qué no es responsable de la información proporcionada por sus agentes, incluidos los chatbots y los representantes humanos de servicio al cliente. El tribunal también dictaminó que Air Canada tampoco explicó por qué los clientes deberían ser responsables de la verificación de datos y que Moffatt no tenía motivos para creer que el chatbot no estaba proporcionando información precisa.
Moffatt recibió un reembolso parcial por la suma de 650,88 dólares canadienses (428,29 dólares), más daños adicionales para cubrir los intereses y los honorarios del tribunal.
Es bastante desconcertante que Air Canada alguna vez intente argumentar esto ante los tribunales. La idea de que una empresa pueda ofrecer un chatbot en lugar de un representante humano de servicio al cliente y luego negarse a aceptar la responsabilidad cuando las cosas van mal es bastante ridícula. Especialmente cuando está en juego una cantidad tan pequeña de dinero.
Adam Leon Smith, presidente de F-TAG, el grupo asesor técnico de BCS y un destacado experto en seguridad de la IA, dijo a Jugo Mobile que “Es sorprendente que Air Canada haya intentado luchar contra esta afirmación. En este contexto, los consejos dados por un chatbot equivalen obviamente a los consejos dados en su página web”. Más tarde añadió que “los implementadores de IA deben comprender sus limitaciones y que, en última instancia, siguen siendo responsables de los errores que la IA comete en su nombre”.
“Es sorprendente que Air Canada haya intentado siquiera luchar contra este reclamo.
Adam Leon Smith, presidente de F-TAG
Mientras tanto, Ryan Carrier, director ejecutivo de la organización de certificación y seguridad de IA para Humanity, criticó de manera similar la respuesta de Air Canada y el precedente que podría haber sentado si tuviera éxito. Carrier dijo a Jugo Mobile que forHumanity ha “argumentado constantemente que todas las herramientas como la IA, los sistemas algorítmicos y autónomos siempre deben tener un propietario beneficiario responsable y responsable”. En otras palabras, las empresas necesitan conocer los riesgos de usar chatbots y herramientas similares, y si su chatbot se va a descarrilar y hacer un montón de promesas, será mejor que esté dispuesto a respaldarlas.
O, ya sabes, dejar de intentar tomar atajos en el servicio al cliente y contratar agentes humanos adicionales que puedan ser capacitados e instruidos para no inventar políticas de la empresa sobre la marcha. De esa manera los clientes saben cuál es el trato y las empresas no tienen que lidiar con tantas quejas furiosas sobre promesas falsas.
Además, los operadores humanos pueden ser despedidos si insultar a los clienteso dedicarse a escribir poesía criticando a su empleador durante las horas de trabajo.
- Utilicé ChatGPT para crear imágenes con IA: así es como puedes hacerlo tú mismo
- Con el iPhone 16 y la IA, Apple debe seguir el ejemplo del Galaxy S24
- Avance del MWC 2024: más teléfonos, plegables, cascos de realidad mixta y anillos inteligentes
