La sentencia contra Air Canada por los errores de su chatbot plantea importantes cuestiones sobre la responsabilidad de las empresas en relación con sus sistemas de inteligencia artificial. Este caso podría tener implicaciones significativas para el futuro de la interacción entre humanos y chatbots en el ámbito empresarial, y tiene el potencial de ayudar a otras empresas para que no cometan el mismo error
Una reciente sentencia judicial ha puesto en entredicho la responsabilidad de las compañías respecto a los consejos proporcionados por sus sistemas de inteligencia artificial.
En este caso, Air Canada ha sido condenada por el tribunal de resolución civil de la Colombie-Britannique por los “mots trompeurs” (palabras engañosas) de su chatbot, que llevaron a un cliente a interponer una demanda, de acuerdo a informaciones del medio Courrier International.
Según informa Radio Canada, el cliente, identificado como Jake Moffatt, recibió consejos erróneos del chatbot de Air Canada tras el fallecimiento de su abuela en 2022. El bot le indicó que podría solicitar un descuento por motivo de duelo de manera retroactiva, lo cual la aerolínea posteriormente negó una vez que Moffatt completó su viaje.
Air Canada argumentó que el chatbot es una entidad legal separada y no puede ser responsabilizada por sus acciones. Sin embargo, el tribunal dictaminó que la compañía es responsable de la información proporcionada en su sitio web, independientemente de si proviene de una página estática o de un chatbot.
“Aunque un robot conversacional tiene un componente interactivo, es solo una parte del sitio web de Air Canada. Para Air Canada debería ser evidente que es responsable de toda la información contenida en su sitio web. Si esta información proviene de una página estática o de un robot conversacional no hace ninguna diferencia”, declaró Christopher Rivers, miembro del tribunal.
El tribunal ordenó a la compañía aérea indemnizar a Moffatt con 812 dólares canadienses (aproximadamente 600 euros), lo que corresponde a la diferencia entre el precio del billete de duelo y el precio normal.
Este caso, según el instituto canadiense de información que se dedica a estos temas jurídicos, parece ser uno de los pocos en los que un chatbot ha dado consejos incorrectos, y podría sentar un precedente para futuros casos similares.
