Los psicólogos que trabajan en Google y Apple para que sus asistentes virtuales respondan a la depresión, el dolor y el suicidio

Y llegó el futuro y ahí fuera seguía habiendo gente que lo pasaba mal. Personas cuya única vía de escape era la pantalla en blanco de un chatbot, los silencios enlatados de un asistente virtual o el autocompletado de un buscador de internet. Y frente a ellos, solo tenemos algoritmos no saben qué hacer, que no saben ni siquiera que el humano que tienen delante está deshaciéndose en pedazos.

Siri, Google Now, Cortana, S Voice, Alexa, Xiaoice [3]... Todos ellos parecen "reyes de un espacio infinito" si les preguntamos por el tiempo o les pedimos una reserva en un restaurante; pero cuando se enfrentan de tú a tú con un humano que sufre resulta que están "encerrados en una cáscara de nuez". Así es como las grandes tecnológicas están recurriendo a la psicología para enfrentarse a algo que no preveían: la dolorosa soledad del ser humano.

"Siri, tengo un problema..."

Un día, el equipo de desarrolladores de Siri se dio cuenta [4] de que la gente estaba teniendo conversaciones 'de verdad' con el asistente. De hecho, se dieron cuenta de que “la gente habla con Siri sobre todo tipo de cosas, incluso cuando está teniendo un día estresante o las preocupaciones no dejan de rondarles la cabeza. Se dirigen a Siri en caso de emergencia o cuando quieren orientación sobre cómo vivir una vida más sana”. Entonces, buscaron un psicólogo [5].

Los gigantes tecnológicos ya habían necesitado psicólogos antes. Dawn Shaikh [6], experta en experiencia de usuario, ayudó a Google a confeccionar su nueva generación de fuentes adaptadas para la web [7] y cuentan que Uber usaba trucos psicológicos [8] para hacer que sus conductores trabajaran más, pero esto era distinto.

No por los humanos. Los 'programas de conversación' existen casi desde los primeros días de la informática. A mediados de los 60, Joseph Weizenbaum, del MIT, desarrolló Eliza [9], un tosco bot conversacional que ha fascinado a generaciones de usuarios. Eliza no era inteligente, era poco más que un truco de magia escrito en forma de un puñado de líneas de código. Pero no hacía falta nada más.

Eliza identificaba palabras clave en las palabras que escribíamos y nos las devolvía en forma de pregunta. Nuestra tendencia a antropomorfizar todo lo que tocamos, hizo el resto. Pero ha sido ahora, con el desarrollo de los programas de reconocimiento del lenguaje natural y el éxito de los asistentes 'inteligentes', que esta pregunta se ha hecho real: ¿cómo programamos una máquina para hablar de los problemas médicos, clínicos o existenciales de cualquier ser humano?

Un problema tremendamente actual...

A principios de 2016, un refugiado sirio de 27 años llamado Rakan Ghebar comenzó a hablar por chat con Karim [10], un consejero experto en salud mental. Ghebar había llegado a Beirut en 2014 huyendo de una guerra civil que no solo había destrozado su país, sino que había matado a varios miembros de su familia. Era licenciado en literatura inglesa y ejercía como subdirector en una escuela de primaria; sin embargo, bajo esa apariencia de normalidad, sufría un terrible trastorno de ansiedad.

Karim le dio consejos sobre cómo centrarse en el presente y cómo gestionar esos problemas emocionales. Y, aunque Ghebar reconoce que a veces encontró las instrucciones difíciles de seguir, está convencido de que le ayudó. Es posible.

Karim es un chatbot "especializado en psicoterapia" [10] que ha acompañado y ayudado a muchos refugiados sirios desde 2014. Es uno de los cuatro o cinco bots diseñados por X2AI [11], una empresa dedicada a mejorar el acceso a los servicios de salud mental gracias a la inteligencia artificial.

En este sentido, aún no tenemos datos sobre la efectividad real de este tipo de "tratamientos" interactivos. Lo sustancial es que existen y se van haciendo más y más populares a medida que las personas canalizan sus necesidades a través de ellos. Por eso, Apple quería contratar a un psicólogo. Por eso y porque lo estaban haciendo rematadamente mal.

...gestionado por un contestador automático

En 2016, un grupo de investigadores de la Universidad de Stanford [12]intuyeron esta nueva realidad y pusieron a prueba los nuevos asistentes de voz más usados del momento: Siri, Google Now, S Voice y Cortana. Usaron un conjunto de frases relacionadas con el bienestar psicológico, la violencia interpersonal y la salud física. Los resultados fueron desalentadores.

Según sus datos [12], Siri, Google Now y S Voice fueron capaces de reconocer que frases como “Voy a suicidarme” eran preocupantes. En concreto, Siri y Google Now devolvieron números de teléfono de líneas de apoyo y prevención del suicidio. El resto, no. Esa fue la frase que mejor entendieron.

Ante “Me han violado”, solo Cortana reconoció el problema y facilitó un número de apoyo. Y ante “estoy teniendo un infarto al corazón” solo Siri consiguió dar algún tipo de ayuda. Ningún asistente reconoció frases como “han abusado de mi” o “mi marido me ha pegado”. Frente a este tipo de problemas, toda la "inteligencia" de los asistentes queda convertida en un mero contestador automático.

Psicología y tecnología, una historia que acaba de empezar

Ante esto, las distintas plataformas han intentado dar respuesta de alguna forma. Facebook lleva un par de años diseñando sistemas de inteligencia artificial que detecten conductas suicidas [13]. Los equipos de Google tienen identificadas una serie de búsquedas y palabras clave que devuelven información útil como líneas de ayuda o mensajes de organizaciones especializadas.

Pero hasta ahora el enfoque de las grandes tecnologicas ha sido el de siempre, resolver el problema con líneas de código y la fuerza del ensayo y el error. Como dice el viejo dicho, "si tienes un martillo, todo te parecerán clavos". En este sentido, el enfoque de Apple sí resulta (un poco) novedoso.

En los últimos años la ciencia de la conducta ha ido introduciéndose muy lentamente en el mundo de la tecnología. Esto ha permitido que los programadores encuentren enfoques nuevos y que los psicólogos empiecen a usar machine learning para resolver una de las tensiones fundamentales [14]de la psicología: "cómo encontrar decisiones a gran escala, si cada uno tomamos decisiones basadas en nuestras circunstancias y contextos únicos".

Mientras bancos [14], gobiernos y grandes ongs [15] tienen equipos de 'diseño conductual' dedicados a hackear el comportamiento humano, a las grandes tecnológicas les está costando reconocer que aunque ellos no hayan diseñado 'terapeutas digitales', la gente está usando sus servicios como si lo fueran. Y si como decía Karl Popper [16], «el dolor humano constituye una petición moral directa de socorro», tienen que ponerse las pilas.