Análisis crítico de casos reales de uso del LLM: entre la promesa y la realidad

Mientras continúa el debate sobre el valor real de los grandes modelos lingüísticos (LLM), es esencial examinar críticamente casos de uso reales aplicados por empresas. Este análisis pretende examinar aplicaciones concretas de los LLM en distintos sectores, evaluando de forma crítica su valor real, sus limitaciones y su potencial.

‍

Comercio electrónico y venta al por menor: ¿optimización selectiva o exceso de ingeniería?

En el sector minorista y del comercio electrónico, los LLM se utilizan para diversas tareas:

• Asistentes internos y mejora del flujo de trabajo: Instacart ha desarrollado un asistente de IA llamado Ava para ayudar a los equipos a escribir, revisar y depurar código, mejorar las comunicaciones y crear herramientas internas. Aunque prometedores, cabe preguntarse si estos asistentes ofrecen sustancialmente más valor que otras herramientas de colaboración más tradicionales y menos complejas.
• Moderación de contenidos y seguridad: Whatnot utiliza LLM para mejorar la moderación multimodal de contenidos, la protección contra el fraude y la detección de irregularidades en las ofertas. Zillow emplea LLM para identificar contenidos discriminatorios en anuncios inmobiliarios. Estos casos representan aplicaciones específicas en las que LLM puede ofrecer un valor real, pero requieren sistemas de verificación precisos para evitar falsos positivos y negativos.
• Extracción y clasificación de información: OLX creó Prosus AI Assistant para identificar funciones laborales en los anuncios, mientras que Walmart desarrolló un sistema para extraer atributos de productos a partir de PDF. Estos casos demuestran la utilidad de los LLM para automatizar tareas repetitivas que, de otro modo, requerirían un importante trabajo manual.
• Generación creativa de contenidos: StitchFix combina texto generado algorítmicamente con supervisión humana para simplificar la creación de titulares publicitarios y descripciones de productos. Instacart genera imágenes de productos alimentarios. Estas aplicaciones plantean dudas sobre la originalidad de los contenidos generados y la posible homogeneización del lenguaje publicitario.
• Mejora de las búsquedas: Leboncoin, Mercado Libre y Faire utilizan LLM para mejorar la relevancia de las búsquedas, mientras que Amazon emplea LLM para comprender las relaciones de sentido común y ofrecer recomendaciones de productos más relevantes. Estos casos representan un área en la que el valor añadido de LLM es potencialmente significativo, pero la complejidad computacional y los costes energéticos asociados pueden no justificar la mejora incremental sobre los algoritmos de búsqueda existentes.

Fintech y banca: navegar entre el valor y los riesgos normativos

‍

En el sector financiero, el LLM se aplica con cautela, dada la naturaleza sensible de los datos y los estrictos requisitos normativos:

• Clasificación y etiquetado de datos: Grab utiliza LLM para la gobernanza de datos, clasificando entidades, identificando información sensible y asignando etiquetas adecuadas. Este caso de uso es especialmente interesante, ya que aborda un reto crítico para las instituciones financieras, pero requiere mecanismos de control estrictos para evitar errores de clasificación.
• Generación de informes sobre delitos financieros: SumUp genera narraciones estructuradas para informes sobre fraude financiero y blanqueo de dinero. Esta aplicación, aunque promete reducir la carga de trabajo manual, suscita dudas sobre la capacidad de los LLM para tratar adecuadamente temas jurídicamente delicados sin supervisión humana.
• Ayuda para consultas financieras: Digits sugiere consultas relacionadas con transacciones bancarias. Este caso de uso muestra cómo los LLM pueden ayudar a los profesionales sin sustituirlos, un enfoque potencialmente más sostenible que la automatización total.

Tecnología: Automatización y servicio

‍

En el sector tecnológico, los LLM se utilizan mucho para mejorar los flujos de trabajo internos y la experiencia de los usuarios:

• Gestión de incidentes y seguridad: según security.googleblog.com, Google utiliza LLM para proporcionar resúmenes de incidentes de seguridad y privacidad a diversos destinatarios, como ejecutivos, directivos y equipos de socios. Este método ahorra tiempo a los directivos y mejora la calidad de los resúmenes de incidentes. Microsoft emplea LLM para diagnosticar incidentes de producción, mientras que Meta ha desarrollado un sistema de análisis de causa raíz asistido por IA. Incident.io genera resúmenes de incidentes de software. Estos casos demuestran el valor de los LLM para acelerar procesos críticos, pero plantean dudas sobre su fiabilidad en situaciones de alto riesgo.
• Asistencia a la programación: GitHub Copilot ofrece sugerencias de código y completado automático, mientras que Replit ha desarrollado LLM para la reparación de código. NVIDIA utiliza LLM para detectar vulnerabilidades del software. Estas herramientas aumentan la productividad de los desarrolladores, pero también podrían propagar patrones de código ineficientes o inseguros si se utilizan de forma acrítica.
• Consultas de datos y búsqueda interna: Honeycomb ayuda a los usuarios a escribir consultas sobre los datos, Pinterest convierte las consultas de los usuarios en consultas SQL. Estos casos muestran cómo los LLM pueden democratizar el acceso a los datos, pero también podrían dar lugar a interpretaciones erróneas o ineficiencias sin un conocimiento profundo de las estructuras de datos subyacentes.
• Clasificación y gestión de solicitudes de asistencia: GoDaddy clasifica las solicitudes de asistencia para mejorar la experiencia del cliente. Dropbox resume y responde preguntas sobre archivos. Estos casos muestran el potencial de los LLM para mejorar el servicio al cliente, pero suscitan dudas sobre la calidad y precisión de las respuestas generadas.

Entregas y movilidad: eficacia operativa y personalización

‍

En el sector del reparto y la movilidad, los LLM se utilizan para mejorar la eficacia operativa y la experiencia del usuario:

• Pruebas y asistencia técnica: Uber utiliza LLM para probar aplicaciones móviles con DragonCrawl y ha creado Genie, un copiloto de IA para responder a las preguntas de asistencia. Estas herramientas pueden reducir significativamente el tiempo dedicado a las pruebas y la asistencia, pero es posible que no capten problemas complejos o casos extremos como lo haría un probador humano.
• Extracción y cotejo de información de productos: DoorDash extrae detalles de productos a partir de datos de SKU y Delivery Hero coteja su inventario con los productos de la competencia. Estos casos muestran cómo los LLM pueden automatizar procesos complejos de cotejo de datos, pero podrían introducir sesgos o interpretaciones erróneas sin los controles adecuados.
• Búsqueda conversacional y relevancia: Picnic mejora la relevancia de la búsqueda en los listados de productos, mientras que Swiggy implementó la búsqueda neuronal para ayudar a los usuarios a descubrir comida y comestibles de forma conversacional. Estos casos ilustran cómo los LLM pueden hacer más intuitivas las interfaces de búsqueda, pero también podrían crear "burbujas de filtros" que limiten el descubrimiento de nuevos productos.
• Automatización del soporte: DoorDash ha creado un chatbot de soporte basado en LLM que recupera información de la base de conocimientos para generar respuestas que resuelvan rápidamente los problemas. Este enfoque puede mejorar los tiempos de respuesta, pero requiere sólidos guardarraíles para manejar situaciones complejas o con carga emocional.

Redes sociales, medios de comunicación y B2C: contenidos e interacciones personalizados

‍

En las redes sociales y los servicios B2C, los LLM se utilizan para crear contenidos personalizados y mejorar las interacciones:

• Análisis y moderación de contenidos: Yelp ha actualizado su sistema de moderación de contenidos con LLM para detectar amenazas, acoso, obscenidades, ataques personales o incitación al odio. LinkedIn analiza diversos contenidos de la plataforma para extraer información sobre competencias. Estos casos muestran el potencial de los LLM para mejorar la calidad de los contenidos, pero suscitan preocupación por la censura y la posible restricción de la libertad de expresión.
• Generación de contenidos educativos y marketing: Duolingo utiliza LLM para ayudar a los diseñadores a generar ejercicios relevantes, mientras que Nextdoor emplea LLM para crear objetos de correo electrónico llamativos. Estas aplicaciones pueden aumentar la eficiencia, pero también conducir a una estandarización excesiva de los contenidos.
• Traducción y comunicación multilingües: Roblox explota un modelo multilingüe personalizado para que los usuarios puedan comunicarse sin problemas utilizando su propia lengua. Esta aplicación demuestra el potencial del LLM para superar las barreras lingüísticas, pero puede introducir matices culturales en las traducciones.
• Interacción con contenidos multimedia: Vimeo permite a los usuarios conversar con vídeos a través de un sistema de preguntas y respuestas basado en RAG que puede resumir el contenido del vídeo, enlazar con momentos clave y sugerir preguntas adicionales. Esta aplicación muestra cómo el LLM puede transformar nuestra forma de interactuar con contenidos multimedia, pero plantea dudas sobre la fidelidad de las interpretaciones generadas.

Evaluación crítica: valor real frente a seguir la tendencia

Como señala Chitra Sundaram, directora de gestión de datos de Cleartelligence, Inc. La formación y ejecución de estos modelos requiere una enorme potencia informática, lo que genera una importante huella de carbono. Una TI sostenible consiste en optimizar el uso de los recursos, minimizar los residuos y elegir la solución del tamaño adecuado". Esta observación resulta especialmente pertinente al analizar los casos de uso presentados.

‍

Analizando estos casos de uso, surgen varias consideraciones críticas:

1. Valor incremental frente a complejidad

‍

Muchas aplicaciones de los LLM ofrecen mejoras incrementales respecto a las soluciones existentes, pero con unos costes computacionales, energéticos y de implementación significativamente mayores. Como afirma Chitra Sundaram, "utilizar un LLM para calcular una simple media es como utilizar una bazuca para matar una mosca" (paste-2.txt). Es crucial evaluar si el valor añadido justifica esta complejidad, sobre todo teniendo en cuenta:

• Necesidad de sistemas de control sólidos
• Costes energéticos e impacto medioambiental
• La complejidad del mantenimiento y la actualización
• Conocimientos especializados

2. Dependencia de la supervisión humana

‍

La mayoría de los casos de uso con éxito mantienen un enfoque humano en el bucle, en el que los LLM ayudan en lugar de sustituir completamente la intervención humana. Esto sugiere que:

• La automatización total mediante LLM sigue siendo problemática
• El principal valor reside en potenciar las capacidades humanas, no en sustituirlas
• La eficacia depende de la calidad de la interacción hombre-máquina

3. Especificidad de dominio frente a aplicaciones genéricas

‍

Los casos de uso más convincentes son aquellos en los que los LLM se han adaptado y optimizado para dominios específicos, con el conocimiento del dominio incorporado:

• Perfeccionamiento con datos específicos del sector
• Integración con los sistemas y fuentes de conocimiento existentes
• Barreras de seguridad y restricciones contextuales

4. Integración con las tecnologías existentes

Los casos más eficaces no utilizan el LLM de forma aislada, sino que lo complementan con:

• Sistemas de recuperación y archivo de datos (RAG)
• Algoritmos especializados y flujos de trabajo existentes
• Mecanismos de verificación y control

Como destaca el caso de uso de Google, la integración de los LLM en los flujos de trabajo de incidentes de seguridad y privacidad permite "acelerar la respuesta a incidentes mediante IA generativa", con resúmenes generados que se adaptan a distintos públicos, garantizando que la información relevante llegue a las personas adecuadas en el formato más útil.

‍

Conclusión: un enfoque pragmático de los LLM

Chitra Sundaram ofrece una perspectiva esclarecedora cuando afirma: "El camino hacia el análisis sostenible consiste en elegir la herramienta adecuada para el trabajo, no sólo en perseguir la última tendencia. Se trata de invertir en analistas cualificados y en una sólida gobernanza de los datos. Se trata de hacer de la sostenibilidad una prioridad clave".

‍

El análisis de estos casos de uso reales confirma que los LLM no son una solución milagrosa, sino potentes herramientas que, aplicadas estratégicamente a problemas concretos, pueden ofrecer un valor significativo. Las organizaciones deberían:

1. Identificación de problemas específicos en los que el procesamiento del lenguaje natural ofrece una ventaja sustancial sobre los enfoques tradicionales.
2. Empezar con proyectos piloto que puedan demostrar el valor de forma rápida y mensurable.
3. Integrar LLM con los sistemas existentes en lugar de sustituir completamente los flujos de trabajo.
4. Mantener mecanismos de supervisión humana, especialmente para aplicaciones críticas.
5. Evaluar sistemáticamente la relación coste-beneficio, teniendo en cuenta no sólo las mejoras de rendimiento, sino también los costes energéticos, de mantenimiento y de actualización.

Las empresas que prosperan en la era de los LLM no son necesariamente las que más los adoptan, sino las que los aplican de forma más estratégica, equilibrando innovación y pragmatismo, y manteniendo una mirada crítica sobre el valor real generado más allá del bombo publicitario.

‍