Desde que la IA Generativa ha irrumpido con fuerza, las empresas están viviendo situaciones contradictorias. Por un lado, la consideran una revolución sin precedentes capaz de crear multitud de oportunidades en términos de negocio. Pero por otro lado genera incertidumbre y plantea preocupaciones en términos de riesgos. Sobre todo, en cuanto a la seguridad de los datos sensibles y la fiabilidad de los resultados que ofrece. 

Así lo demuestra un sondeo realizado por la compañía Arize, empresa especializada en IA. En su encuesta Market share of leading LLMs de abril de 2023, se extraen algunos datos interesantes: 

• El 68% de las empresas temen por la privacidad de los datos.
• El 43% por la fiabilidad de las respuestas generadas y posibles “alucinaciones”.
• El 35% no tienen claro cuáles son los casos de uso potenciales para su negocio. 

De esta forma la privacidad de los datos, la fiabilidad de las respuestas y los casos de uso potenciales se convierten en los principales obstáculos que enfrentan las compañías para acceder a la IA Generativa. En este post abordaremos cómo evitar estas y otras barreras de entrada de la inteligencia artificial generativa en las empresas gracias a las tecnologías de Google Cloud y la experiencia de eºmergya desarrollando y desplegando soluciones basadas en lA Generativa aplicada al negocio.

Privacidad de los datos

Cuando hablamos de Inteligencia Artificial Generativa y privacidad de datos, las empresas temen que la información sensible o confidencial sea utilizada de manera inapropiada. Por otro lado, también hay cierta preocupación con que los resultados generados no cumplan con los estándares de privacidad. 

Los requisitos que exigen las compañías para asegurar la privacidad y el compliance de los datos que manejan, de entrada y de salida son: 

• Controlar la autorización de acceso a la información: qué información se da y a quién.
• Poder tener una integración segura con el backoffice.
• En caso de un asistente conversacional, poder escalar a un agente humano.

Así, antes de que una empresa aborde la implantación de LLM en sus procesos, necesita tener la certeza de que se cumplen todos estos requisitos. Muchas compañías están priorizando soluciones de alto valor y bajo riesgo que se puedan construir e implementar rápidamente en los pases a producción. Son conscientes de los riesgos asociados con la privacidad de los datos y solo a través de un enfoque cuidadoso y ético de los LLM, podrán aprovechar plenamente su potencial sin comprometer la confianza y el respeto de sus clientes y usuarios. No olvidemos que la protección de los datos privados no solo es un obstáculo, sino también una responsabilidad ética y legal.

Recientemente la Universidad de Stanford realizó una investigación sobre Foundation Models y su cumplimiento con la propuesta de ley de la UE sobre la IA. El estudio analiza cada punto recogido en la propuesta en relación a los proveedores actuales de IA generativa. Según las conclusiones de los investigadores, Google Cloud es una de las empresas que mayor índice de cumplimiento ofrece, especialmente en lo que se refiere a los riesgos asociados a la privacidad y la seguridad de los datos. Esto posiciona a Google Cloud como una compañía líder en IA que salvaguarda la integridad y seguridad de los usuarios, así como de los datos involucrados. Por eso, porque están 100% comprometidos con el cumplimiento de las normas y la privacidad, son nuestros proveedores de referencia en GenAI.

Fiabilidad de las respuestas

Si hablamos de agentes conversacionales de inteligencia generativa, uno de los requisitos que exigen las empresas es poder confiar en que devuelven información veraz y que no se inventan nada:

• Que responda sobre un dominio de información específica y controlada.
• Que se pueda integrar como una capacidad más de sus aplicaciones actuales.
• Poder monitorizar y controlar tanto la entrada como la salida de las interacciones con el LLM.

Por esta razón la precisión de las respuestas de los LLM y las "alucinaciones" son la segunda mayor barrera para las empresas a la hora de implementar la inteligencia artificial generativa. Las “alucinaciones” se producen cuando la IA generativa devuelve información que es incorrecta o engañosa. Son respuestas verosímiles, que podrían pasar por verdaderas, pero que contienen datos que no se corresponden con la realidad. Por ejemplo, que al preguntar por una cadena hotelera incluya alojamientos inexistentes en ciudades donde no tienen presencia. Es evidente que una empresa no se puede permitir ofrecer a sus clientes o a sus empleados información errónea o que no sea 100% fidedigna. 

En nuestros equipos utilizamos algunas medidas de control para limitar en lo posible la aparición de alucinaciones. Para ello contamos siempre con supervisión humana, además de revisar las respuestas generadas. Por otro lado, vamos afinando los modelos para mitigar estos riesgos y permitir a las empresas que aprovechen todos los beneficios de los agentes generativos. De esta forma aseguramos la calidad, la integridad y la confiabilidad de la información generada.

Casos de uso potenciales

¿Cómo puedo sacar el máximo beneficio de la IA Generativa en mi empresa? ¿Qué casos de uso puedo llevar a cabo? Estas son las preguntas que muchas compañías se están haciendo en estos meses. De hecho, el 35% de las organizaciones no ven casos de uso claros o específicos donde implementar la inteligencia generativa. Hay varias razones por las que esto ocurre:

• Complejidad de la inteligencia artificial generativa: La GenAI es una tecnología compleja que requiere un conocimiento técnico profundo para utilizarla de manera efectiva y entender qué se puede lograr con ella.
• Consideraciones éticas y legales: La inteligencia artificial generativa plantea desafíos éticos y legales complejos, como la privacidad y seguridad de los datos, lo que hace que las empresas sean más cautelosas al definir casos de uso, porque deben tener en cuenta los riesgos asociados.
• Incertidumbre sobre el retorno de la inversión: Sin una comprensión clara de cómo se beneficiará la empresa y qué resultados se esperan, es posible que los casos de uso potenciales no sean lo suficientemente específicos o claros para justificar esa inversión.

Comenzar por casos de uso simples es una buena forma de buscar aplicaciones más innovadoras a corto o medio plazo. Por nuestra parte, en el tiempo que llevamos implementando Inteligencia Artificial Generativa, podríamos agrupar por temáticas los casos de uso que hemos desarrollado:

Empresas de viajes, seguros, retail... están empezando a beneficiarse del potencial de la inteligencia artificial generativa en diversas áreas de su negocio.

¿Qué obtendrás cuando implementes la IA Generativa en tus casos de uso concretos?

Aunque la IA generativa se ha popularizado hace apenas unos meses, lo cierto es que en eºmergya llevamos desde 2017 trabajando con modelos de Machine Learning de Procesamiento del Lenguaje Natural. A partir de 2019 empezamos a usar modelos como BERT, el predecesor de BARD, en casos de uso reales en empresas para tareas como automatizar la clasificación de textos o encontrar relaciones de cercanía entre ellos. 

Somos pioneros en soluciones basadas en IA Generativa con Google Cloud. Y muestra de ello es que hemos obtenido acceso prioritario a previews de generative AI, realizado las primeras pruebas de concepto en España con las APIs de PaLM-2 de Google y llevado a cabo el primer proyecto exitoso con un cliente en España utilizando PaLM-2 (Meliá).

Trabajar con las tecnologías de Google Cloud nos permite poner solución a las barreras de entrada de la IA Generativa en las empresas. Por ejemplo, utilizamos el soporte de IA generativa en Vertex AI, que ofrece herramientas avanzadas para acceder, personalizar y administrar modelos básicos para la producción en aplicaciones generativas personalizadas. También trabajamos con Generative AI App Builder, una de las últimas soluciones de Google Cloud diseñada para simplificar el proceso de creación de aplicaciones generativas –como motores de búsqueda y chatbots– y abstraer la complejidad técnica involucrada en su creación.

Al implementar soluciones de inteligencia artificial generativa, basadas en el stack de Google, las empresas obtienen beneficios muy concretos:

• Privacidad y compliance de tus datos.
• Validación de la veracidad de respuesta.
• Acceso a la información sólo con autorización.
• Integración segura con tu backoffice.
• Monitorización y análisis de las respuestas.
• Integración en tus aplicaciones actuales.

Nuestra propuesta de valor está muy basada en el conocimiento y la experiencia a todos los niveles que nos ha proporcionado la puesta en marcha de soluciones de IA en general y basadas en IA generativa en particular en grandes proyectos con grandes empresas. Sabemos que montar con éxito un producto digital basado en herramientas de IA de Google Cloud en una gran empresa no es simplemente ponerse a desarrollar y listo. Una empresa tiene sus reglas, sus formas de trabajo, su stack tecnológico, sus tiempos… somos conscientes de eso, y por eso nos adaptamos y sobre todo, facilitamos el camino.