En las últimas semanas se está hablando mucho de Chat GPT (Generative Pre-training Transformer), el nuevo motor de texto de OpenAI entrenado para mantener conversaciones y generar contenido en respuesta a lo que se le solicite. 

Es una herramienta muy potente para el análisis y generación de texto, capaz de generar respuestas que son más naturales y coherentes que las que podría producir un modelo más simple. 

A primera vista suena muy bien pero … ¿es posible implantarlo en empresas? ¿nos permite comunicarnos con nuestros clientes? ¿puede sustituir a los asistentes virtuales? Te contamos nuestras impresiones.

Qué es Chat GPT 

Chat GPT es el último LLM (Large Language Model) entrenado por Open AI. Se trata de un modelo conversacional basado en GPT-3, un modelo de la misma familia que finalizó su formación a finales de 2021. Tiene un tamaño de más de 175 millones de parámetros y está entrenado con grandes cantidades de texto para realizar tareas relacionadas con el lenguaje. 

Es un modelo de aprendizaje continuo, lo que significa que puede seguir aprendiendo y mejorando a medida que se le proporcionan más datos y entrenamiento. Se entrena igual que cualquier otra Inteligencia Artificial. Basta con hacerle preguntas y añadirle información, de manera que a base de correcciones a lo largo del tiempo, es capaz de realizar de forma automática la tarea para la que ha sido diseñado. Como escribir una canción, un poema o responder a preguntas aleatorias.

Su formato de diálogo hace posible que:

• Responda a preguntas de seguimiento: tiene un sentido del contexto y reconoce todo lo que se ha estado hablando hasta el momento, por lo que si le haces alguna pregunta relacionada con una respuesta que te ha dado, sabrá identificar si te refieres a ello sin tener que darle toda la explicación.
• Admita sus errores: puede reconocer que no está seguro de una respuesta o que ha dado una respuesta incorrecta.
• Cuestione premisas incorrectas: tiene la capacidad de detectar y corregir información que el usuario ha proporcionado y que resulta ser incorrecta o inexacta.
• Rechace peticiones inapropiadas: puede elegir no responder a solicitudes del usuario que violan las políticas o los estándares éticos establecidos. 

Cuanto más específicos seamos en las instrucciones, mejores respuestas obtendremos. Porque es sensible a los cambios en el enunciado de la pregunta o a intentar responder a la misma cuestión varias veces. Por ejemplo, ante una pregunta puede afirmar que no sabe la respuesta, pero haciendo un ligero cambio de enunciado, puede contestar correctamente.

Como ves, en apariencia es una herramienta muy completa y sus respuestas parecen completamente naturales. Tanto, que a veces es complicado distinguir que el texto haya sido generado por IA. Pero si profundizamos un poco más descubriremos sus puntos débiles.

Las quejas de los usuarios

A pesar de su éxito y aunque puede ser una herramienta útil en algunos casos, Chat GPT presenta varias limitaciones en su uso más general y que son comunes a las peticiones de cualquier tipo de usuario:

• Puede tener dificultades para comprender o responder a preguntas o comandos: sobre todo si están formulados de manera poco clara o ambigua, ya que está basado en un modelo de lenguaje natural. 
• A veces escribe respuestas plausibles pero incorrectas o sin sentido: cada fragmento parafraseado que pega se basa en algo que han dicho seres humanos reales, y hay alguna relación vaga (pero irrelevante) entre ellos. Al menos por ahora, sigue haciendo falta un humano para dar sentido a la información que proporciona. 
• No tiene acceso a información actualizada ni en tiempo real: fue entrenado hasta diciembre de 2021, por lo que no conoce los eventos posteriores. Solo puede utilizar la información que ha aprendido durante su entrenamiento.
• No hay una fuente de verdad: al no tener acceso a Internet en tiempo real no puede comprobar la veracidad de la información que proporciona. Por lo tanto, no debe tomarse como confiable sin contrastarla primero con otras fuentes. Además, los usuarios pueden dar datos "falsos" alterando su entrenamiento y, por tanto, la fiabilidad de los resultados. Ni siquiera proporciona las fuentes en las que basa su información, por lo que el propio usuario tampoco puede chequearla.
• Utiliza modelos probabilísticos para generar sus respuestas: lo que significa que la consistencia y la precisión no están garantizadas.
• Tiene algunos sesgos en los datos de entrenamiento y problemas de sobreoptimización: por ejemplo, abusa de ciertas frases para que sus respuestas parezcan más completas, como repetir que es un modelo lingüístico entrenado por OpenAI.

¿Es Chat GPT una solución para empresas? 

A día de hoy, es un tanto arriesgado para las empresas confiar 100% en Chat GPT y depender de sus respuestas para resolver problemas o tratar con los clientes. Hay múltiples razones para ello: 

• A pesar de generar respuestas coherentes a preguntas y comandos dados, puede cometer errores o dar contestaciones inadecuadas. Por lo que puede ser frustrante para los clientes e incluso dañar la reputación de la empresa.
• Pese a que es capaz de aportar soluciones genéricas por industrias, no permite acotar el contexto para empresas concretas. Esto significa que no puede proporcionar información específica sobre productos o servicios de la empresa, ni puede brindar soporte personalizado a los clientes.
• Como consecuencia del punto anterior, puede tener dificultades para comprender preguntas o tareas que requieran conocimientos o habilidades específicas de las empresas. Porque no han sido incluidos en su conjunto de entrenamiento. 
• A medida que más y más personas utilizan Chat GPT, es probable que se vuelva lento y menos eficiente debido a la cantidad de procesamiento que requiere. Esto puede dificultar que la empresa maneje un gran volumen de tráfico de chat y afectar negativamente la experiencia del cliente. Además, si acumula datos erróneos de entrenamiento, su nivel de fiabilidad se verá afectado negativamente.
• Es un modelo de lenguaje basado en el aprendizaje supervisado, lo que significa que necesita un conjunto de datos etiquetados para entrenar y mejorar su rendimiento. Esto es obstáculo generalizado, ya que la mayoría de las empresas no cuentan con este tipo de datos.

Lejos de los asistentes virtuales

Vamos a centrarnos en los asistentes porque es la aplicación de Inteligencia Artificial que actualmente están implementando las empresas y que puede tener un fin o uso similar a Chat GPT. Aunque este modelo conversacional puede ser una herramienta muy útil para mejorar la efectividad y capacidad de respuesta de los asistentes, todavía está lejos de ser una solución adecuada. Estas son las limitaciones que presenta Chat GPT para la atención en las empresas:

• No ofrece un motor conversacional sino un modelo de Procesamiento de Lenguaje Natural y generación de contenido de manera automática. Por eso el resultado generado es completamente impredecible y, por tanto, no auditable, a diferencia de lo que permiten Dialogflow, Watson o LUIS.
• No tienes control real sobre el contenido que genera. Como mucho, puedes influir en el tipo y tono de las respuestas (fine tunning) acotando las instrucciones.
• No puedes entrenarlo con tu propia base de conocimiento, sino que viene pre entrenado con información pública disponible en Internet. Por ejemplo, no sabrá las condiciones de “Mi seguro con franquicia”, pero quizá sí tenga una respuesta a "qué es un seguro con franquicia". 
• No puede ser utilizado para definir un flujo guiado de conversación que complete un proceso de negocio. Tampoco va a pedir información necesaria para resolver un caso de uso, ya que no es un motor NLU que se pueda entrenar y modelar para nuestra casuística.

Algunas aplicaciones de Chat GPT a asistentes conversacionales 

Por todo lo anterior se puede concluir que Chat GPT no es una solución que se ajuste al  ámbito de la atención al cliente. Sin embargo, sí podría utilizarse en algunas situaciones específicas:
Su parte creativa es muy potente y podemos aprovecharla para, por ejemplo:
Generar test cases que no estén en nuestros datos de entrenamiento.

Su parte creativa es muy potente y podemos aprovecharla para, por ejemplo:

• Generar test cases que no estén en nuestros datos de entrenamiento.
  
  
• Crear de manera automática y guiada los copys de contribución a nuestros asistentes virtuales.
  
  
• Como herramienta de apoyo para analizar intenciones no capturadas por nuestros asistentes virtuales (fallbacks).
  
  
• Definir y entrenar entidades.
  
  
• Producir contenido automáticamente a partir de un conjunto de datos o una plantilla. Por ejemplo, para generar scripts para diálogos de asistentes virtuales y crear guías de usuario para soluciones de Text & Speech. O incluso contenido de marketing para promocionar productos y servicios (publicaciones en redes sociales, correos electrónicos promocionales, etc).
  
  

Por tanto, podríamos concluir que por ahora Chat GPT no puede sustituir los agentes conversacionales. Para comunicarnos con nuestros clientes, conviene seguir utilizando las soluciones de asistentes que se ajustan mejor a las necesidades de una empresa.

Eso sí, aunque en este momento no tenga casos de uso de negocio concretos a los que pueda ser aplicado para resolver nuestra tipología de problemas, puede ayudar a lingüistas, developers y otros perfiles a desempeñar su trabajo.