Google también presumió un nuevo chatbot, Bard, pero los científicos y periodistas se dieron cuenta de inmediato de que escribía disparates sobre el Telescopio Espacial James Webb. OpenAI, una empresa emergente de San Francisco, inició el auge de los chatbots en noviembre cuando presentó ChatGPT, un bot que tampoco dice siempre la verdad.

Los nuevos chatbots tienen como base una tecnología que los científicos llaman modelos lingüísticos de gran tamaño (LLM, por su sigla en inglés). Estos sistemas aprenden analizando enormes cantidades de texto digital extraído del internet, que incluye volúmenes de material falso, tendencioso y, por lo demás, tóxico. El texto del que aprenden los chatbots también está un poco pasado de moda, porque deben analizarlo durante meses antes de que el público pueda usarlos.

Mientras analiza ese mar de información buena y mala de todo el internet, un LLM aprende a hacer una cosa en particular: adivinar la siguiente palabra de una secuencia de palabras.

Funciona como una versión gigante de la tecnología de autocompletar que te sugiere la siguiente palabra cuando escribes un correo electrónico o un mensaje instantáneo en tu teléfono inteligente. En la secuencia “Tom Cruise es un ____”, el LLM podría adivinar “actor”.

Cuando conversas con un chatbot, este no solo recurre a todo lo que ha aprendido de internet. Utiliza todo lo que tú le has dicho y todo lo que te ha respondido. No solo adivina la siguiente palabra de su frase. Está adivinando la siguiente palabra del largo bloque de texto que incluye tanto tus palabras como las suyas.

Mientras más larga se vuelve la conversación, mayor la influencia que tiene el usuario sobre lo que dice el chatbot sin saberlo. Si quieres que se enoje, se enoja, comentó Sejnowski. Si lo alientas para que se ponga raro, se pone raro.

Las reacciones de alarma ante el extraño comportamiento del chatbot de Microsoft eclipsaron un punto importante: el chatbot no tiene personalidad. Ofrece resultados instantáneos que escupe un algoritmo informático increíblemente complejo.

Microsoft pareció frenar el comportamiento más extraño cuando puso un límite a la duración de las conversaciones con el chatbot de Bing. Fue como enterarse gracias al piloto de pruebas de un auto que ir demasiado rápido durante demasiado tiempo quema su motor. OpenAI, socio de Microsoft, y Google también están explorando formas de controlar el comportamiento de sus bots.

Pero esta tranquilidad tiene una salvedad: como los chatbots aprenden de tanto material y lo combinan de forma tan compleja, los investigadores no tienen del todo claro cómo producen sus resultados finales. Los investigadores observan lo que hacen los robots y aprenden a poner límites a ese comportamiento, a menudo después de que se produce.

Microsoft y OpenAI han decidido que la única manera de averiguar qué harán los chatbots en el mundo real es darles rienda suelta… y contenerlos cuando se salgan del camino. Ambas compañías creen que su gran experimento público vale la pena el riesgo.

Sejnowski comparó el comportamiento del chatbot de Microsoft con el Espejo de Oesed, un artefacto místico de las novelas de Harry Potter de J. K. Rowling y muchas de las películas basadas en su mundo ingenioso de jóvenes magos.

“Oesed” es “deseo” al revés. Cuando la gente descubre el espejo, este parece brindarles verdad y comprensión. Sin embargo, no es así: muestra los deseos más profundos de cualquiera que vea su reflejo en él. Y algunas personas se vuelven locas si lo miran demasiado tiempo.

“Debido a que los humanos y los LLM se reflejan entre sí, con el tiempo tenderán hacia un estado conceptual común”, explicó Sejnowski.

Según Sejnowski, no debería sorprendernos que los periodistas hubieran empezado a ver un comportamiento extraño en el chatbot de Bing. De modo consciente o inconsciente, estaban empujando al sistema en una dirección incómoda. A medida que los chatbots asimilan nuestras palabras y nos las devuelven, pueden reforzar y amplificar nuestras creencias y convencernos de creer en lo que nos dicen.

Sejnowski formaba parte de un minúsculo grupo de investigadores que a finales de la década de 1970 y principios de 1980 empezaron a explorar seriamente un tipo de inteligencia artificial llamada red neuronal, que impulsa los chatbots actuales.

Una red neuronal es un sistema matemático que aprende habilidades analizando datos digitales. Es la misma tecnología que permite a Siri y Alexa reconocer lo que dices.

Alrededor de 2018, los investigadores de empresas como Google y OpenAI comenzaron a construir redes neuronales que aprendían de grandes cantidades de texto digital, incluidos libros, artículos de Wikipedia, registros de chat y otras cosas publicadas en internet. Al localizar miles de millones de patrones en todo ese texto, estos LLM aprendieron a generar texto por sí mismos, incluidos tuits, publicaciones en blogs, discursos y programas de computación. Incluso eran capaces de mantener una conversación.

Estos sistemas son un reflejo de la humanidad. Aprenden sus habilidades analizando el texto que los humanos han publicado en internet.

Pero esa no es la única razón por la que los chatbots generan un lenguaje problemático, afirma Melanie Mitchell, investigadora de Inteligencia Artificial del Santa Fe Institute, un laboratorio independiente de Nuevo México.

Melanie Mitchell, investigadora de Inteligencia Artificial del Santa Fe Institute, ha estudiado cómo generan sus resultados los chatbots

Cuando generan texto, estos sistemas no repiten palabra por palabra lo que hay en Internet. Producen texto nuevo por sí mismos combinando miles de millones de patrones.

Incluso si los investigadores entrenaran a estos sistemas únicamente con literatura científica revisada por pares, podrían producir afirmaciones científicamente ridículas. Incluso si aprendieran únicamente de textos verídicos, podrían producir falsedades. Incluso si solo aprendieran de textos íntegros, podrían producir algo espeluznante.

“No hay nada que les impida hacerlo”, afirma Mitchell. “Solo intentan producir algo que suene a lenguaje humano”.

Los expertos en inteligencia artificial saben desde hace tiempo que esta tecnología muestra todo tipo de comportamientos inesperados. Pero no siempre se ponen de acuerdo sobre cómo debe interpretarse este comportamiento o con qué rapidez mejorarán los chatbots.

Debido a que estos sistemas aprenden a partir de muchos más datos de los que los humanos podríamos llegar a comprender, ni siquiera los expertos en inteligencia artificial pueden entender por qué generan un texto en particular en un momento determinado.

Sejnowski comentó que cree que, a largo plazo, los nuevos chatbots tendrán la capacidad de aumentar la eficacia de las personas y ofrecerles maneras para realizar tareas mejor y más rápido. No obstante, hay una advertencia tanto para las empresas que construyen estos chatbots como para las personas que los utilizan: también pueden alejarnos de la verdad y llevarnos a lugares oscuros.

“Este es un terreno inexplorado”, mencionó Sejnowski. “Los humanos nunca lo habían experimentado”.

– Por qué los chatbots se están poniendo más inteligentes

Un aparato doméstico tiene una falla y necesitas ayuda. O tienes una duda sobre la logística de un viaje o la cobertura de tu seguro. Te metes en el sitio web de la compañía y un ser digital brota en una pequeña ventana de texto. “¿Cómo puedo ayudarte?”, pregunta. O llamas a un número de servicio a clientes y un autómata alegre formula la misma pregunta.

Te armas de valentía y decides continuar, ya sea que teclees o le digas de viva voz al chatbot (o bot conversacional o de charla) lo que deseas. Sus respuestas programadas no cubren tus necesidades. En realidad, no te entiende. Después de varios minutos de un intercambio lingüístico incómodo, te desesperas y te rindes.

Los primeros chatbots se programaban con un conjunto predeterminado de preguntas y respuestas. Pero eso llevaba a callejones sin salida si el software no entendía las preguntas. Hoy en día, dijo Soffer, gran parte de la innovación reciente radica en “enseñar al sistema a entender y descifrar la intención de una persona”.

Crear un software que pueda determinar la esencia de la solicitud de una persona es un gran desafío. “Asumes que solo hay cierta cantidad de maneras en la que una persona puede decir algo, pero descubres que eso en realidad no es verdad”, afirmó Bob Beatty, director de experiencia en la división de Servicios Financieros de General Motors (GM).

Al principio, el departamento de Servicios Financieros de GM tenía un chatbot rudimentario que simplemente pronunciaba respuestas programadas conforme a una lista de preguntas. Sin embargo, comenzó a trabajar con IBM en 2019 para desarrollar un chatbot interactivo. Los Servicios Financieros de GM tenían un plan de dos años para desarrollar e implementar su chatbot, impulsado por el Asistente Watson.

Los confinamientos por la pandemia de coronavirus en marzo de 2020 supusieron una aceleración sorpresiva de ese calendario. Beatty envió a trabajar desde casa a cerca de 700 agentes que laboraban en los centros de atención telefónica de la compañía en Arlington, Texas, y Chandler, Arizona. Mientras se apresuraban a equipar a los agentes de atención telefónica para el trabajo remoto, Servicios Financieros de GM redirigió a los clientes hacia su incipiente chatbot en lugar de hacia el teléfono a través de correos electrónicos y un aviso en su sitio web.

El chatbot enfrentó problemas al principio. Sin embargo, los desarrolladores de Servicios Financieros de GM y los ingenieros de IBM programaron en los bots la capacidad de responder a cada vez más preguntas —sin importar cómo se formaban las frases—, como “¿Cuál es mi monto de pago?” o “¿Recibieron mi pago de marzo?”.

No obstante, incluso las preguntas sencillas requieren respuestas personalizadas que el software debe buscar en la base de datos de una compañía. Cuando comenzó, el chatbot llamado Nanci (su nombre es parte de la palabra “fiNANCIeros”) resolvía menos del diez por ciento de las peticiones de los clientes. Sin embargo, dos meses después, la tasa de éxito se elevó al 50 por ciento (y ahora alcanzó el 60 por ciento), según Servicios Financieros de GM.

Hasta ahora, Nanci ha sido un chatbot solo de texto, pero la empresa está añadiendo una versión de voz. Y está trabajando con IBM para automatizar tareas más complejas, como la modificación de las fechas de pago y vencimiento.

El objetivo principal de la tecnología chatbot, según Beatty, es mejorar la experiencia del cliente y fomentar la fidelidad a la marca de su empresa matriz, General Motors. Pero la consulta media en un centro de llamadas dura seis minutos y cuesta 16 dólares, según las estimaciones del sector. En Servicios Financieros de GM, muchas de las preguntas de los clientes se responden ahora con el chatbot. En enero, Beatty estimó que la empresa ahorró un total de 935.000 dólares.

Hasta el momento, el personal del centro de atención telefónica no ha sido recortado. Beatty aseguró que la tecnología permitirá a los agentes pasar más tiempo en problemas difíciles (por ejemplo, hablar con un cliente que perdió su trabajo y necesita un préstamo o extender el arrendamiento de su vehículo).

“Eso es algo que un miembro de equipo capacitado y empático puede hacer de una manera que la inteligencia artificial no puede lograrlo”, señaló.

En el caso de la mayoría de los negocios, un obstáculo para lograr un avance con la inteligencia artificial es no tener suficientes datos para entrenarla. El software moderno de inteligencia artificial requiere grandes cantidades de datos que se debe examinar de forma detallada con el fin de mejorar su precisión (es decir, para que aprenda a su manera). Cierta tecnología nueva de inteligencia artificial podría superar ese obstáculo generando en automático más datos para entrenamiento o para aprender de menores cantidades de datos.

Anthem, una de las principales aseguradoras de salud, cubre a más de 45 millones de personas, tiene bastantes datos y además cuenta con un personal de tecnología de algunos miles de empleados que incluyen a científicos de datos, expertos en inteligencia artificial y desarrolladores de aplicaciones. El Asistente Watson de IBM es una de las muchas herramientas que Anthem usa.

Anthem muestra lo que está ocurriendo en la actualidad con los chatbots que operan con ayuda de la inteligencia artificial, pero también lo que sería posible dentro de algunos años. Su tecnología actual, incluyendo su aplicación móvil, se llama Sydney y, según la compañía, es 90 por ciento precisa al responder a preguntas sobre copagos (“Me someteré a una operación de remplazo de rodilla. ¿Cuánto cubre mi seguro?”) y medicamentos (“¿Mi receta tiene alguna interacción con otros fármacos?”).

No obstante, la meta a largo plazo, indicó Rajeev Ronanki, presidente de plataformas digitales en Anthem, es utilizar la inteligencia artificial para examinar con cuidado todas sus solicitudes y datos clínicos a fin de brindar asesoría de salud personalizada. Y otros tipos de datos: Sydney puede incluso tomar en cuenta la información de los monitores de acondicionamiento físico.

Por ejemplo, existen más de 380 opciones de cuidados y tratamientos para personas con diabetes, señaló Ronanki. ¿Cuáles han sido los regímenes de dieta, ejercicio y medicación que han producido los mejores resultados para pacientes similares (por edad, sexo, otras enfermedades e historial médico)?

Esa información podría ser proporcionada como recomendaciones de tratamiento a un médico y como consejos de salud a un individuo a través de un chatbot cada vez más inteligente y conversacional.

Ronanki dijo que la inteligencia artificial puede “ayudarnos a pasar de cuidado reactivo de enfermos a una atención de salud proactiva, predictiva y personalizada”.

Así como a una solución, tal vez, de la espiral del sufrimiento.

nuestras charlas nocturnas.