¿Qué es un bot y qué un trol?…
XLSemanal(M.D.)/profealberto.com/Infobae/HuffPost(E.Loren) — La inteligencia artificial ya permite desarrollar algoritmos con un don de palabra tal que pocos descubriríamos que detrás de sus mensajes no hay realmente una persona dialogando con nosotros. Esta capacidad informática es clave para la expansión de un creciente ejército de bots ‘autores’ de noticias falsas y propaganda engañosa. Pero ¿qué es un bot? ¿y un trol? Aprende a diferenciarlos. Por M.D.
Un bot es…
Un bot (aféresis de ‘robot’) es un programa informático que simula el comportamiento humano, realizando auto-máticamente tareas repetitivas como enviar mensajes, e-mails o post en redes sociales. Los bots no son necesariamente ‘malos’. De hecho, se crean para evitar que las personas hagan tareas tediosas. Pero también tienen usos fraudulentos.
Una granja de bots es…
Una granja de bots es un servidor o varios que producen perfiles falsos de usuarios para aumentar el número de seguidores de una cuenta o para confundir a los usuarios de redes sociales con noticias falsas. La forma en que lo hacen es compartiendo una gran cantidad de mensajes de forma simultánea para impulsar determinada información interesada.
Un Trol es…
Un Trol o un hater es un usuario que busca provocar, ofender o empobrecer la conversación dentro de una comunidad on-line, como puede ser un blog, un foro o un perfil en redes sociales. La palabra ‘trol’ (del noruego troll) y su verbo asociado, ‘trolear’, nacieron vinculados a Internet, aunque su uso se ha extendido para definir todas las acciones intencionadamente provocativas o de acoso verbal.
Los Bots: el Ejército Virtual que Contamina Internet
GPT-3 es el nuevo producto de la empresa OpenAI de San Francisco. Sus desarrolladores han alimentado el sistema con cantidades ingentes de textos sacados de Internet; entre ellos, la Wikipedia al completo. A partir de toda esa información, GPT-3 ha aprendido cómo escriben las personas, qué palabras suceden a otras con mayor frecuencia… Y muchas veces el resultado parece pensado por seres humanos.
La empresa OpenAI es muy consciente del peligro que puede acarrear una mala utilización de su software, por eso se ha asegurado de restringir el acceso al programa. Eso no impide que McGuffie y Newhouse estén preocupados. Tarde o temprano, dicen, otros seguirán sus pasos y algunos podrían ser personas sin escrúpulos.
Hasta ahora del acoso, el discurso del odio y de la desinformación se encargan sobre todo troles humanos. Para ahorrar trabajo, la mayoría de estos mensajes son simples copias de otros, por lo que los productos de estos ejércitos de troles suelen ser fácilmente reconocibles. Sistemas como GPT-3, por el contrario, podrían elaborar infinitas redacciones sobre cada tema; cada una de ellas, ligeramente diferente de las demás. Podrían crear miles de historias falsas sobre la COVID-19 o sobre refugiados violentos y difundirlas hasta conseguir que al público le estalle la cabeza. Las máquinas hacen su trabajo a un precio imbatible y con una eficiencia máxima… ¿nos enfrentamos a la industrialización de la propaganda?
La IA, en realidad, no sabe nada del mundo. No sabe cómo interactúan las personas entre sí. Su entrenamiento se limita a cómo los seres humanos enlazan unas palabras con otras. Pero hay en muchos ámbitos en los que no importa si un escrito lo ha realizado una inteligencia real o no, basta con que lo parezca. Un charlatán artificial como GPT-3 podría elaborar perfectamente horóscopos o reportajes sensacionalistas.
Especialmente lucrativos podrían resultar otro tipo de textos, como opiniones y valoraciones falsas de productos o servicios. De hecho, muchos de los elogios de clientes satisfechos que ya leemos hoy en Internet son comprados. Agencias con sede en lugares como Chipre o Hong Kong ofrecen comentarios entusiastas sobre hoteles, restaurantes o concesionarios de coches a cambio de dinero.
Para un ser humano, inventarse este tipo de elogios falsos es un trabajo pesado. Pero en este terreno las máquinas de elaboración de textos pueden desplegar todo su poder e inundar el mercado con un peloteo creado a medida del pagador.
Los más afectados, en teoría, podrían ser aquellos lugares de la Red donde se producen debates entre usuarios, en la sección de comentarios de los medios de comunicación on-line o en plataformas como Facebook, Twitter o Telegram. Tampoco se puede descartar que un día un enajenado aterrice en un foro de ultraderecha y que un par de cientos de bots a los que él cree humanos lo inciten a cometer actos violentos.
Una máquina también podría enviar miles de correos falsos de lectores a un periódico, cada uno de ellos diferente y la mayoría redactados de forma creíble. ¿Cómo podríamos reconocer los pocos comentarios de lectores reales entre semejante avalancha de mensajes?
A eso se refiere el experto en seguridad Bruce Schneier cuando advierte de una posible marginalización provocada por el uso de este tipo de máquinas: la presencia masiva de bots repitiendo necedades sin parar evitará la llegada de comentarios de usuarios humanos. El objetivo ya no es convencer de algo a la gente, basta con que esta pierda las ganas y la voluntad de discernir entre lo verdadero y lo falso. Cuanto más saturada esté, más fácil será que tome partido por el primer demagogo con el que se cruce.
Desde que se habla de ‘epidemia de robots o bots’, existen los cazadores de bots, pero uno de los mayores problemas es cómo detectar este tipo de autómatas porque no hay un criterio fiable que permita saber si detrás de una cuenta de usuario hay una persona o una máquina.
Uno de los más conocidos cazadores de bots es el sociólogo Philip Howard, de la Universidad de Oxford. Howard asegura que en las elecciones estadounidenses de 2016 uno de cada tres tuits en apoyo a Donald Trump tenía origen en un bot.
Howard ha llegado a este cálculo basándose en una premisa: es un bot cualquier tuitero que envíe más de 50 tuits al día. Sin embargo, este tipo de frenesí tuitero no es nada extraño, muchas personas sobrepasan ese límite fácilmente.
Hoy está bastante extendido el uso de una herramienta más sofisticada llamada Botometer, un algoritmo diseñado para reconocer a los bots por su forma de actuar. Botometer ofrece una valoración de cada usuario que va del 0 (humano) al 1 (máquina). Muchos cazadores de bots llegan a hilar muy fino y consideran bot a todo lo que esté por encima del 0,76, y otras veces se deja de ser persona a partir del 0,43.
De todos modos, Botometer también ha resultado ser muy proclive a los fallos. En sus primeras pruebas, por ejemplo, clasificó como máquinas a la mitad de los miembros de la Cámara de Representantes de Estados Unidos, a numerosos periodistas e incluso a varios premios Nobel.
Qué son los trolls
:quality(85)/arc-anglerfish-arc2-prod-infobae.s3.amazonaws.com/public/LNXANWXPEFAFFL3GHJZSVNLDFQ)
El término describe a quienes mandan mensajes provocativos o fuera de contexto con la intención de molestar o generar respuestas que cambien el eje del tema central. En Twitter hay robots y usuarios falsos generando polémicas.
Los trolls nacieron prácticamente a la par de internet, popularizándose el término primero en foros, luego en salas de chat, blogs y más tarde en redes sociales como Facebook y Twitter.
Los mensajes de los trolls pueden tener diversos fines, como molestar, provocar, alterar el eje de debate y ahora, con el auge de las redes sociales, publicar información falsa o bien encarar campañas difamatorias.
Un ejército al mejor postor
Twitter reconoció que al menos 23 millones de sus cuentas eran robots, es decir, capaces de enviar cualquier tipo de mensaje sin interacción humana.
Poco después de conocerse el dato, una investigación realizada por un experto argentino determinó que en Twitter existían dos redes formadas por cuentas robots, empleadas para convertir cualquier tema en tendencia, es decir, dominar gran parte de la conversación en la red social.
Las dos redes estaban disponibles para cualquier fin, ya sea una agencia de publicidad buscando alcanzar una meta de clicks o bien un partido político con la necesidad de generar debate.
En octubre del 2015, una campaña realizada supuestamente por veganos se descubrió que era en realidad una prueba de comunicación digital de cara a las elecciones de este año. Dicho de otra manera: un ensayo para ver si la red de cuentas robot era capaz de establecer un tema de conversación entre los usuarios de Twitter.
«Hay una cosa teledirigida»: así actúan las bandas de trolls en internet
“La peor amenaza que he recibido es: «sé dónde vive tu hija, la voy a violar», cuando yo ni siquiera tengo hijas. Está hecho solamente para que te mueras de miedo”. Javier Ruiz, jefe de economía de la Cadena SER y colaborador de Mediaset, ha sido el último en sufrir el acoso de los trolls que convierten la red, especialmente Twitter, en un territorio inhabitable para el debate y la conversación civilizada.
Ruiz es periodista, y compañeros de su gremio como Esther Palomera, Antonio Maestre, Isabel Rábago y otros profesionales de la información con una cierta visibilidad saben bien de lo que habla: sus perfiles se llenan habitualmente de insultos y amenazas. Pero el acoso de estas bandas de bots o trolls no afecta solo a periodistas. Es, por desgracia, un fenómeno habitual que puede convertir en víctima prácticamente a cualquiera. Basta con decir algo que active la antipatía de estos grupos… o de quien los dirige.
Javier Ruiz lo hizo hace unos días, tras una discusión con el youtuber Víctor Domínguez, conocido como Wall Street Wolverine, en el programa Cuatro al día (Cuatro). El periodista acusó a este youtuber de tener una actitud insolidaria por mudarse a Andorra para pagar menos impuestos.
″Tuve en Cuatro una discusión con este youtuber. Desde entonces, se dedica a copiar frases mías donde le interesa, sacadas de contexto, a ponerlas en YouTube y en las redes. Este movimiento se inició el viernes pasado y todavía continúa”, cuenta Ruiz.
Su cuenta de Twitter no ha dejado de recibir insultos y amenazas en los últimos días tras ese encontronazo. “Todo lo que recibo son insultos y amenazas: de muerte, a mi familia, sé dónde vives… La peor amenaza que he recibido es ‘sé dónde vive tu hija, la voy a violar’, cuando yo ni siquiera tengo hijas. Está hecho solamente para que te mueras de miedo”, relata.
Algo similar le ha ocurrido a la periodista Esther Palomera. “Ahora solo uso Twitter para difundir artículos que me interesan, cuando antes interactuaba. Hay una sensación incómoda. Muchos mensajes rozan el delito: han difundido la dirección de mi casa, la ubicación del lugar donde me voy vacaciones o los datos de mis hijos”, asegura.
Ambos consideran que estos ataques no se producen de manera espontánea, sino que se trata de una campaña orquestada. “No es espontáneo. A mí no solo me han dado hostias los youtubers, sino que también soy objeto de cariño en Libertad Digital, Periodista Digital, Estado de Alarma y todo lo que tiene detrás un cierto tufillo a ultraderecha. No es que la gente haya perdido la cabeza, sino que hay una cosa teledirigida”, apunta Ruiz.
“No es algo nuevo. La primera ofensiva brutal la tuve con las primarias del PSOE. Siempre he sostenido que los ejércitos de trolls que atacan a periodistas políticos están jaleados y motivados por los partidos. En aquel momento, procedían de una de las candidaturas. Sin embargo, no he vivido nada tan duro como el último año, con el nuevo Gobierno, desde cuentas de gente de derecha y ultraderecha”, señala Palomera.
“Hace dos años, tuve una entrevista muy dura con Pablo Iglesias, tras la que recibí muchos ataques de gente que me consideraba un traidor. El teléfono pitaba mil veces por minuto”, rememora Ruiz.
Una de las revoluciones vía Twitter
Desinformación e intimidación
Reporteros Sin Fronteras publicó recientemente el informe Acoso en línea a periodistas, en el que analizaba diferentes casos de acoso online a periodistas en 32 países. Esta oenegé mostró el modus operandi de algunos Gobiernos para atacar a los profesionales de información. Identificaba tres etapas: desinformación (se difunden noticias falsas), amplificación (se difunden mensajes en las redes sociales) e intimidación (insultos y amenazas).
Esta es la misma forma de actuar de los atacantes en las redes sociales. “Lo primero que pasa es que sacan de contexto tus palabras. Luego empiezan a decir una serie de mentiras, que si cobro dinero público o estoy subvencionado. Después, vienen comportamientos de bullying de instituto. Empiezan los insultos, el acoso, las amenazas y la intimidación”, cuenta Ruiz.
Este informe también señalaba que las mujeres son las más afectadas por este acoso en las redes sociales. Dos de cada tres reporteras encuestada aseguraba haber sido víctima del hostigamiento. Las periodistas reciben insultos y amenazas por su trabajo que suelen venir acompañados de comentarios machistas.
“Las críticas a los hombres son desde el punto de vista profesional, mientras que nosotras recibimos un desprestigio constante por el hecho de ser mujer. Los insultos tienen que ver con tu condición de mujer. Todo son alusiones sexuales, al físico o a la edad”, cuenta Palomera.
revoluciones vía Twitter
Ataques a través de cuentas anónimas
Los ataques a periodistas suelen proceder de cuentas anónimas a las que se conoce como trolls. Este tipo de usuarios solo buscan el conflicto en las redes sociales con la publicación de mensajes incendiarios. Su único objetivo es provocar a la víctima y que esta responda de una forma poca adecuada.
“Hay amenazas que me llegan desde cuentas con sus nombres y sus apellidos, pero la mayoría son cuentas falsas, con cero publicaciones y cero seguidores. Son perfiles falsos creados solo para insultarte”, cuenta Ruiz. “Hay cuentas creadas ad hoc, pero también otras con identificación de gente vinculada con la extrema derecha”, coincide Palomera.
Los expertos en redes sociales siempre recomiendan no responder a estos mensajes bajo el lema de don’t feed the troll (no alimentes a los trolls) porque no va a servir de nada. El objetivo que persiguen estos ataques es asustar al periodista para que no siga haciendo su trabajo.
Al recibir los insultos, Palomera suele optar por bloquear las cuentas. “Lo que hago diariamente es bloquear. La última que lo miré debería tener casi 4.000 bloqueados”, cuenta. Sin embargo, sí recuerda una ocasión en la que respondió públicamente a Cristina Seguí, exdirigente de Vox, cuando acusó a su hijo de trabajar para el PSOE.
A veces también se utilizan los bots para estas campañas de acoso. Se trata de cuentas automatizadas, que no son administradas por una persona, sino por un algoritmo. Estas han sido muy habituales durante los procesos electorales.
Si esto ocurre es más complicado saber quién está detrás para actuar legalmente. “Es muy difícil rastrear quién articula una red de bots, porque suelen hacerlo usuarios desde la dark web y escondidos en máquinas que están en países que no podemos rastrear”, aseguró José Rosell, socio director de la empresa de ciberseguridad S2 Grupo, a El HuffPost.
Los expertos siempre recomiendan denunciar a los usuarios que acosan a otros a través de las redes. “Podemos distinguir dos tipos de casos: las ofensas al honor y las conductas delictivas. Una ofensa al honor sigue la vía civil, aunque las graves como las injurias pueden ir por la vía penal, aunque no se contempla cárcel”, asegura el abogado Sergio de Juan-Creix Cuatrecasas, abogado de Croma legal y profesor en la Universitat Oberta de Catalunya (UOC).
Las amenazas a través de las redes sociales no salen gratis. “Un trol se puede enfrentar a penas punitivas de cárcel por delitos como incitación al odio o acoso. El problema son las identidades falsas o anónimas tras las que se esconden este tipo de personas. Lo mejor es denunciar a la policía. Actualmente, casi todos los cuerpos policiales cuentan con fuertes unidades de delitos tecnológicos”, señala.
“Algunos de los mensajes que recibo prácticamente a diario son delictivos. Pero ellos juegan con ventaja. No tengo el tiempo, ni el dinero para gastármelo en esa gentuza. Además, no les vas a dar la victoria pírrica de convertirles en titular con cada paso judicial”, asegura Palomera.
revoluciones vía Twitter
¿Dónde está Twitter?
Twitter anunció hace tres años que se centraría en mejorar la calidad de los diálogos en esta red social de microblogging, que tiene más de 335 millones de usuarios en todo el mundo. La compañía que dirige Jack Dorsey trataba así de defenderse de las críticas de que habían servido para propagar noticias falsas e influir en elecciones como Estados Unidos, el Brexit o Cataluña.
“Twitter cuando detecta algún comportamiento que puede ser delictivo debería remitir directamente a la policía. He remitido muchos de los comentarios a la cuenta de la Policía Nacional y la única respuesta es que me presente en una comisaria y presente una denuncia”, lamenta Palomera.
A pesar de esas promesas, la realidad es que las noticias falsas, las cuentas anónimas y la violencia han continuado en las redes sociales. El asalto al Capitolio de Estados Unidos el pasado 6 de enero por parte de seguidores de Donald Trump no habría ocurrido sin la influencia de Twitter.
“El Brexit debería haber sido un punto de inflexión, la elección de Trump o la marcha supremacista blanca en Charlottesville. Tras cada uno de esos acontecimientos, prohibían una cuenta o cambiaban una condición de servicio. Y yo pensaba: es algo, pero no suficiente. No me refiero a prohibir 8.000 cuentas en lugar de 4.000, sino a replantear la arquitectura de estas plataformas, las causas que nos han llevado aquí”, asegura Andrew Marantz, redactor de The New Yorker y autor del libro Antisocial. La extrema derecha y la ‘libertad de expresión’ en internet (Capitán Swing) en La Vanguardia.
revoluciones via Twitter
El predominio de este tipo de mensajes ha llevado a muchos usuarios a abandonar esta red social o a cambiar su comportamiento. “Mi relación con Twitter ha cambiado considerablemente. Al principio lo consideraba como un instrumento de trabajo en el que se podía interactuar e intercambiar opiniones de una forma respetuosa y civilizada. Eso ya prácticamente se ha acabado, todo es el insulto y la difamación”, apunta Palomera.
“Me da la sensación de que las redes sociales no están enriqueciendo el debate, sino empequeñeciéndolo. Si tú solo sigues y hablas con gente que piensa y dice lo mismo que tú, ya no es una conversación, sino un monólogo a muchas voces”, coincide Ruiz.
Nuestras Charlas Nocturnas 
Deja un comentario