Chatbots: are you talking to me?

chatbot
May22Estas seguro que quien te responde a tus dudas es una persona??? Yo no lo estaría tanto...

Por :NO{legaltech}
// Son 1252 palabras. Esto se lee en, nah, 6 minutos, 15 segundos.

Como ya os contábamos hace unas semanas, los rabbits de NoLegalTech nos hemos pasado a Slack como principal herramienta de trabajo: el sistema de notificaciones mola, segmentar la comunicación en canales mola, poder conectarlo a otras apps externas mola...pero lo que más mola es ver a Kuartillo desesperarse con el slackbot porque le hemos puesto un montón de frases de amor que saltan cada vez que alguien lo menciona en algún canal. El slackbot es un chatbot, un programa de ordenador diseñado para simular una conversación con los usuarios de ese programa, y funciona como una pelota de tenis: habla, responde, habla, responde, habla, responde... Le da vidilla a las conversaciones que tenemos, pero no deja de imitar conversaciones humanas para solucionar problemas, o dar información, o para darle por saco a Kuartillo si lo programas así.

No es que sean un invento reciente, porque todos recordamos con sentimientos encontrados a Clippy, pero si parece que ahora están por todas partes. Desde el chatbot novio de Invisible Boyfriend hasta los que te hacen recados en WeChat (llamar un taxi, concertar una cita médica, enviar dinero a tu primo). Nosotros los votaríamos para políticos, porque podrías programarlos para que hagan exactamente lo mismo. De hecho, podríamos hacerlo si viviéramos en Nueva Zelanda porque Sam se presenta a las elecciones de 2020. Van cogiendo forma, forma humana, tal y como demostró Google con su digi-evolución de los chatbots a los phonebots que te llaman por teléfono y no los distingues de un humano. Si hasta los hay en código abierto, como Replika.

Aceptémoslo, son una realidad. Nosotros estamos a favor de su evolución natural, especialmente el lugar donde más se usan, como son los servicios de atención al cliente, porque las interacciones basadas en correo o teléfono con lentas, frustrantes, y muchas veces vienen acompañadas de una música horrible mientras esperas a ser atendido. Los chatbots se han convertido en una pequeña evolución de la inteligencia artificial, y en algunos foros tech no dejamos de escuchar que “vienen para quedarse” (chupito), y que acabarán sustituyendo a las tradicionales páginas web. Porque si el usuario lo que quiere es información + ejecución de una tarea (reservar un hotel, llamar a un taxi, coger un billete de tren, apuntarse al gimnasio), ¿no es más eficiente que lo haga a través de un bot? Cierto que cada vez son más sofisticados, menos detectables, más humanos pero volviendo a la anolagía con las webs, nosotros nos preguntamos:

si al usuario medio ya le cuesta leerse el rollo legal de una web, incluso cuando las empresas hacen en esfuerzo de hacer los términos legales más comprensibles... ¿cómo nos lo montamos con el chatbot?

Al menos deberían existir unas mínimas garantías legales que nos aseguren por un lado, que el chatbot no se va a volver loco y va a empezar a insultar a los usuarios, y por otro que toda la información necesaria llegue al consumidor antes de que se ejecute la acción comercial correspondiente que se le quiera vender. Ni mencionar la cuestión de chatbots que proporcionen información incorrecta o errónea, y de quien es la responsabilidad en estos casos. La gente que mete chatbots desde distintas plataformas donde no hace falta ni programarlos, porque te los venden ya “de serie”, ¿se ha parado a pensar en estas cuestiones? Probablemente no, pero ya estamos nosotros para eso.

Manifesto de Mínima Legalidad Viable para Chatbots:

  • Política interna sobre chatbot, donde el responsable del bicho deje claro cuales van a ser las actividades permitidas, la información que se le va a dar, la información que el bicho va a recopilar del usuario, donde se almacena y cómo será tratada, quien se encarga de la supervisión de los chatbots y ser conscientes de que estas cosas necesiatarán actualizaciones. En el caso de la gente que se instala el chatbot desde otras plataformas, por favor, leed los términos y condiciones de contratación, especialmente la parte de “no nos hacemos responsables”. Entendemos que el sistema de aprendizaje del chatbot estará controlado pero mejor si lo ponéis por escrito en algún lugar recóndito de la empresa.
  • Condiciones Generales de Contratación: si tu bot tiene como única misión vender algo, avisa a los usuarios de las condiciones de ese contrato. Es válido aunque lo hagan a través de una máquina, pero a quien vincula no es al chatbot, es a ti, a tu empresa, a tu negocio. Unas mínimas líneas sobre qué ocurre en caso de error o mal funcionamiento, o como se ejercen los derechos de los consumidores como devolución, desistimiento, resolución sería un bonito detalle para mejorar las condiciones legales de tu negociobot.
  • Antitrust by design: las actividades del chatbot tendrán que programarse para cumplir con las regulaciones y estándares del sector, pero aún debe vigilarse más esta cuestión en actividades reguladas como energía, turismo, publicidad...
  • Exenciones de responsabilidad de la web donde se alojen: sí no vas a hacerte responsable en caso de que tu chatbot decida vender un viaje a Madrid pero reserve en la línea que va a Barcelona por un fallo del sistema, déjalo claro. Si los usuarios que se informen sobre los últimos conciertos de Melendi en tu servicio luego no podrán reclamarte por la cancelación del concierto para el que compraron la entrada, déjalo claro. Si te limitas a transferir información a través del chatbot desde otras webs y no tienes ningún control sobre los contenidos, déjalo claro. Si el bot recoge información personal, además de dejarlo claro debes adoptar unas medidas especiales de seguridad, ¿no? ¿NO?
  • Privacidad: ya que me sacas el tema de la recolección de datos personales, y enganchando con el tema de información al usuario, el consejo de oro: los derechos ARCO deben poder ejecitarse por parte de los consumidores de la forma más sencilla posible. Si el chatbot recoge información personal, ¿será factible que sirva como canal de comunicación para “desrecogerla”? ¿El usuario puede avisar la chatbot sobre sus derechos de acceso, rectificación, oposición? ¿El chatbot debe advertírselo al usuario? ¿Debes avisar al usuario previamente de que el chatbot va a apropiarse de sus datos y se los va a comer? El grado de monitorización de los usuarios a través de estos pequeños demonios también debe estar bajo control.
  • Infracción de derechos de terceros porque ya sabemos que esto de respetar los derechos de autoría en España lo llevamos mal. Da exactamente lo mismo que sea una revista, una web, o un chatbot, siempre debemos tomar las medidas necesarias para prevenir la infracción de derechos de marca, el uso de contenidos registrados o de terceros sin permiso. Y sí, los contenidos de las webs muchas veces están registrados. ¿Sería tan extraño que se registraran los contenidos conversacionales de los chatbots? Y cuidado con el webscrapping!
  • Botón del pánico para casos extremos. Quizá penséis que es exagerado, pero si una Roomba controlada por un chatbot doméstico decide atacar a tu perro y lo estás viendo todo a través de la webcam, ¿no te alegrarías de que existiera?

 

 

 


Publicado el 22 de mayo de 2018