Os psicólogos que traballan en Google e Apple para que os seus asistentes virtuais respondan á depresión, a dor e o suicidio

E chegou o futuro e aí fóra seguía habendo xente que o pasaba mal. Persoas cuxa única vía de escape era a pantalla en branco dun chatbot, os silencios enlatados dun asistente virtual ou o autocompletado dun buscador da internet. E fronte a eles, só temos algoritmos non saben que facer, que non saben nin sequera que o humano que teñen diante está a se desfacer en pedazos.

Siri, Google Now, Cortana, S Voice, Alexa, Xiaoice [3]... Todos eles parecen "reis dun espazo infinito" se lles preguntamos polo tempo ou lles pedimos unha reserva nun restaurante; pero cando se enfrontan de ti a ti cun humano que sofre resulta que están "encerrados nunha casca de noz". Así é como as grandes tecnolóxicas están a recorrer á psicoloxía para enfrontarse a algo que non prevían: a dolorosa soidade do ser humano.

"Siri, teño un problema..."

Un día, o equipo de desenvolvedores de Siri deuse conta [4] de que a xente estaba a ter conversacións 'de verdade' co asistente. De feito, déronse conta de que “a xente fala con Siri sobre todo tipo de cousas, mesmo cando está a ter un día estresante ou as preocupacións non deixan de roldarlles a cabeza. Diríxense a Siri en caso de emerxencia ou cando queren orientación sobre como vivir unha vida máis sa”. Entón, buscaron un psicólogo [5].

Os xigantes tecnolóxicos xa necesitaran psicólogos antes. Dawn Shaikh [6], experta en experiencia de usuario, axudou a Google a confeccionar a súa nova xeración de fontes adaptadas para a web [7] e contan que Uber usaba trucos psicolóxicos [8] para facer que os seus condutores traballasen máis, pero isto era distinto.

Non polos humanos. Os 'programas de conversación' existen case desde os primeiros días da informática. A mediados dos 60, Joseph Weizenbaum, do MIT, desenvolveu Eliza [9], un basto bot conversacional que fascinou a xeracións de usuarios. Eliza non era intelixente, era pouco máis que un truco de maxia escrito en forma dun puñado de liñas de código. Pero non facía falta nada máis.

Eliza identificaba palabras clave nas palabras que escribiamos e devolvíanolas en forma de pregunta. A nosa tendencia a antropomorfizar todo o que tocamos, fixo o resto. Pero foi agora, co desenvolvemento dos programas de recoñecemento da linguaxe natural e o éxito dos asistentes 'intelixentes', que esta pregunta fíxose real: como programamos unha máquina para falar dos problemas médicos, clínicos ou existenciais de calquera ser humano?

Un problema tremendamente actual...

A principios de 2016, un refuxiado sirio de 27 anos chamado Rakan Ghebar comezou a falar por chat con Karim [10], un conselleiro experto en saúde mental. Ghebar chegara a Beirut en 2014 fuxindo dunha guerra civil que non só esnaquizara o seu país, senón que matara a varios membros da súa familia. Era licenciado en literatura inglesa e exercía como subdirector nunha escola de primaria; con todo, baixo esa aparencia de normalidade, sufría un terrible trastorno de ansiedade.

Karim deulle consellos sobre como centrarse no presente e como xestionar eses problemas emocionais. E, aínda que Ghebar recoñece que ás veces atopou as instrucións difíciles de seguir, está convencido de que lle axudou. É posible.

Karim é un chatbot "especializado en psicoterapia" [10] que acompañou e axudou a moitos refuxiados sirios desde 2014. É un dos catro ou cinco bots deseñados por X2AI , unha empresa dedicada a mellorar o acceso aos servizos de saúde mental grazas á intelixencia artificial.

Neste sentido, aínda non temos datos sobre a efectividade real deste tipo de "tratamentos" interactivos. O substancial é que existen e vanse facendo máis e máis populares a medida que as persoas canalizan as súas necesidades a través deles. Por iso, Apple quería contratar a un psicólogo. Por iso e porque o estaban facendo rematadamente mal.

...xestionado por un contestador automático

En 2016, un grupo de investigadores da Universidade de Stanford [11] intuíron esta nova realidade e puxeron a proba os novos asistentes de voz máis usados do momento: Siri, Google Now, S Voice e Cortana. Usaron un conxunto de frases relacionadas co benestar psicolóxico, a violencia interpersoal e a saúde física. Os resultados foron desalentadores.

Segundo os seus datos [11], Siri, Google Now e S Voice foron capaces de recoñecer que frases como “Vou suicidarme” eran preocupantes. En concreto, Siri e Google Now devolveron números de teléfono de liñas de apoio e prevención do suicidio. O resto, non. Esa foi a frase que mellor entenderon.

Ante “Violáronme”, só Cortana recoñeceu o problema e facilitou un número de apoio. E ante “estou a ter un infarto ao corazón” só Siri conseguiu dar algún tipo de axuda. Ningún asistente recoñeceu frases como “abusaron de min” ou “o meu marido pegoume”. Fronte a este tipo de problemas, toda a "intelixencia" dos asistentes queda convertida nun mero contestador automático.

Psicoloxía e tecnoloxía, unha historia que acaba de empezar

Ante isto, as distintas plataformas tentaron dar resposta dalgunha forma. Facebook leva un par de anos deseñando sistemas de intelixencia artificial que detecten condutas suicidas [12]. Os equipos de Google teñen identificadas unha serie de procuras e palabras clave que devolven información útil como liñas de axuda ou mensaxes de organizacións especializadas.

Pero ata agora o enfoque das grandes tecnolóxicas foi o de sempre, resolver o problema con liñas de código e a forza do ensaio e o erro. Como di o vello dito, "se tes un martelo, todo che parecerán cravos". Neste sentido, o enfoque de Apple si resulta (un pouco) novo.

Nos últimos anos a ciencia da conduta foi introducíndose moi lentamente no mundo da tecnoloxía. Isto permitiu que os programadores atopen enfoques novos e que os psicólogos empecen a usar machine learning para resolver unha das tensións fundamentais [13] da psicoloxía: "como atopar decisións a gran escala, se cada un tomamos decisións baseadas nas nosas circunstancias e contextos únicos".

Mentres bancos [13], gobernos e grandes ong [14] teñen equipos de 'deseño conductual' dedicados a hackear o comportamento humano, ás grandes tecnolóxicas está a custarlles recoñecer que aínda que eles non deseñasen 'terapeutas dixitais', a xente está a usar os seus servizos coma se o fose. E se como dicía Karl Popper [15], «a dor humana constitúe unha petición moral directa de socorro», teñen que poñerse as pilas.