Se dice que una herramienta no es ni buena ni mala. Así un cuchillo puede ser usado para trocear una zanahoria o para matar a una persona. Sin embargo, con cada nuevo avance que se hace en el campo de la inteligencia artificial, toda una horda de tecnófobos vociferantes pone el grito en el cielo. La inteligencia artificial es demasiado reminiscente de la ficticia Skynet y hay que temerla con pasión. ¿O tal vez no?
El último hito alcanzado por la Universidad de Chicago propone un escenario en el que las personas son incapaces de diferenciar el lenguaje humano de uno generado por una red neuronal. Concederemos a los escépticos que sin duda alguna se trata de un paradigma válido para algún blockbuster hollywoodiense. Pero castillos en el aire aparte, la realidad es que la forma mediante la cual se ha comprobado dicha singularidad supone una caja de Pandora para el mundo de la restauración.
Enseñando a una red neuronal a escribir opiniones falsas
Es bien sabido que las aplicaciones de reseñas son un arma de doble filo. Por un lado, sirven para establecer una presencia online, informar al público de la calidad de los servicios prestados y posicionarse por delante de los competidores. Pero, por otro lado, pueden ser abusadas para dañar a establecimientos ajenos o inflar la puntuación propia inmerecidamente.
Yelp es una de estas apps. La más conocida en EE. UU. y una de las más importantes también en la hispanosfera. Con esto en mente, los investigadores de Chicago se propusieron a probar si el uso de la inteligencia artificial podría emplearse para generar avalanchas de contenido fraudulento indetectable a ojos de los usuarios.
En primer lugar, se escribió el código que permitiría el aprendizaje de máquina. Yuanshun Yao, primer autor del estudio científico, obtuvo más de cuatro millones de análisis de Yelp y los introdujo en los nodos de entrada del innovador software. Con un volumen de datos tal, la red neuronal generó reseñas originales sin dificultades.
Para comprobar si una persona las percibiría como opiniones falsas, los análisis fueron puntuados por un equipo de externalización de servicios a través del famoso mercado de microtrabajos Amazon Mechanical Turk. Los textos generados mediante inteligencia artificial resultaron ser estadísticamente indistinguibles de los reales.
Aunque por lo general es difícil crear lenguaje convincente usando redes neuronales, el equipo liderado por el profesor en ciencias de la computación Ben Y Zhao ha superado las expectativas aplicando una metodología en tres pasos: la identificación de la información contextual relevante, la asociación de palabras relacionadas con el contexto y la localización de las palabras aptas para sustitución.
El resultado es inquietante.
—Llevo yendo a este restaurante varios años ya y jamás he tenido una mala experiencia. ¡La atención es fantástica! Siempre son amigables y atentos. Sin duda volveré, ¡ya creo que volveré!— dice a modo de ejemplo la máquina.
—¡NO PIERDAS TU TIEMPO Y DINERO! El peor servicio que jamás haya sufrido. Este lugar es un chiste. La camarera fue grosera y dijo que llamaría al jefe, pero eso nunca llegó a ocurrir. Ojalá pudiera poner cero estrellas— se queja cuando la obligan a escribir un comentario negativo.
¿Averiguarías que son falsas si estuviesen en medio de otras tantas?
Queda pendiente saber si esta mejora en nuestra capacidad para interpretar texto de forma automatizada tendrá un uso provechoso o si traerá nuevos quebraderos de cabeza. Es de obligada mención puntualizar que, así como podemos escribir reseñas falsas, también es posible usar esta tecnología para detectar opiniones falsas. En cualquier caso podemos dejar escapar un resoplo de alivio ya que de momento esta tecnología no está al alcance de cualquiera.
Comprar opiniones positivas para manipular la reputación online
Comprar opiniones positivas es definitivamente posible. No solo se pueden comprar estos servicios para Yelp; Google Maps, TripAdvisor, Facebook y muchos otros que también están con el agua al cuello. El diluvio de opiniones falsas es incesante.
Es lógico que haya negocios que se arriesguen a ser penalizados cuando un solo punto de diferencia en la valoración implica un aumento o disminución (según corresponda) de entre el cinco y el nueve por ciento en los beneficios obtenidos. Para estos locales es importante hacer caja con la mayor presteza posible, las repercusiones negativas son realmente devastadoras.
Vivek Devrari, cofundador de HotelXsell, narra con satisfacción haber visto caer un restaurante local de lo más alto de la clasificación hasta una posición poco por encima de la tricentésima. El impacto llegó cuando la dirección MAC, desde la que se publicaron las reseñas amañadas, fue detectada. Vivek añade además cómo un sistema automático de retroalimentación bien diseñado tiene un impacto más prolongado y más significativo, siendo plenamente conforme con los términos y condiciones de uso de las aplicaciones mentadas.
Brian Bergström, del equipo Yelp Elite Squad, y Jay Skowron, especialista en gestión de reputación en línea, secundan esta opinión. Sí, una simple búsqueda en internet devuelve mil y un escritores fantasma dispuestos a redactar opiniones falsas por menos de veinte euros. Pero también es verdad que las aplicaciones se revuelven contra este tipo de conductas y el resultado suele ser una purga inapelable.
Mucho más penoso es conocer los casos concretos de dueños afectados. Hemos conocido la situación de Alberto, cuyo negocio es bombardeado por análisis falsos que dejan su establecimiento a la altura del betún. No puede hacer nada al respecto y se resigna a comentar sarcásticamente que “no se compran opiniones [en TripAdvisor]”.
Las quejas son múltiples: establecimientos de hostelería recibiendo reseñas varios meses tras haber cerrado, restaurantes en obras supuestamente recibiendo satisfechos comensales durante toda la reforma y mucho más. ¡Todo un circo! Y la insatisfacción con este tipo de aplicaciones no hace sino aumentar…
Solo nos queda esperar que las inevitables campañas de falsedades dirigidas por inteligencia artificial y la difusión de webs de reseñas validadas con credenciales como BBB Customer Reviews lleguen de forma sincronizada. En caso contrario la llegada de la IA podrá ser una auténtica hecatombe para estos portales.
