La inteligencia artificial (IA) está transformando el mundo, pero ¿Qué tan “inteligente” es realmente? Como Arquitecto de Soluciones, he visto de primera mano cómo el marketing descarado de algunas empresas está creando expectativas irreales y ocultando las verdaderas limitaciones de la IA. La noticia de un abogado que cita sentencias “inexistentes” inventadas por ChatGPT es solo la punta del iceberg.
Este es el tercer blog que hago al respecto, yo creo que empezaré una serie en Medium sobre esto, porque realmente hay contenido de sobra para alimentar una sección enfocada solo en esto.
Un patrón común…
Esta noticia analiza cómo algunas grandes empresas tecnológicas exageran las capacidades de la inteligencia artificial (IA) y ocultan sus limitaciones. En resumen: Destaca el caso de un abogado que citó sentencias inexistentes generadas por ChatGPT, esto ya ha pasado antes… me recuerda a un famoso cineasta que “buscó” críticas a sus obras para hacerlo más imponente…
El Marketing Descarado
Es un hecho documentado, incluso desde China, que muchas empresas líderes en IA exageran capacidades y ocultan limitaciones. Tengo un blog dedicado justamente a eso:
Las Big Tech Mienten Sobre los Benchmarks de los LLM… Otra Vez.
Quizás pienses: “Los LLM están revolucionando la IA, ¿verdad?” Pero, ¿qué pasaría si te dijera que los benchmarks que…
En mi último proyecto, evalué una propuesta de AWS para una gran empresa mexicana, que prometía maravillas con 2–3 LLMs. Al analizarla, vi puro humo: promesas vacías sin claridad en costos actuales ni futuros.
¿De qué iba el proyecto? Ok, planteaba resolver un planteamiento ¿Cómo puedo calcular el precio de un artículo en mi tienda? AWS contestó: Con una foto y Claude… sí, solo así. Le pasas una foto y una categoría definida por un usuario. A partir de ahi, Claude “estima” cuánto cuesta tu producto… Ahora paga el millón de créditos en AWS.
Eso es… honestamente muy tecnofeudalista de su parte, determinar por un modelo de IA cuanto debería de cobrar por un producto, sin tener argumentos más que creer en la memoria del modelo. Cosa que hemos visto anteriormente ha fallado terríblemente:
Les exigí transparencia, pero solo recibí evasivas. No pudieron ser claros en los costos totales que implicaría utilizar miles de productos; ni en la escalabilidad del proyecto a largo plazo; mucho menos en que técnicas recomendaban para evitar alucinaciones… ¿Para qué? Si en sus palabras eran MEJORES que Google… ¿Pruebas? Su palabra y un blog. Ignorando los conceptos más básicos de un sistema LLM:
Coloco palabras una tras otra, no razono, no pienso, no uso fuentes de datos, repito lo que aprendo.
Tampoco contaban con algún Benchmark, para asumir que al menos tienen un modelo perfeccionado para “deducir” precios por fotos ¿Por qué? Porque detrás del brillo del marketing, a menudo se esconde una falta de sustancia y una incapacidad para cumplir con las promesas.
IA No Es Solo Software, Es Un Proceso
A diferencia de un software tradicional, donde tú defines reglas manuales basadas en tu criterio, la IA aprende autónomamente. No necesita instrucciones rígidas; analiza patrones, evalúa información y predice con un margen de error calculado. ¿Cuánto error? Depende en que estemos hablando y de factores varios, citaremos unos cuantos:
- La calidad de los datos
- La calidad del entrenamiento
- Los pesos con los que inicias un modelo (concepto de aleatoriedad)
- La seguridad de la información
- La reproducibilidad de los datos de entrenamiento
Un verdadero experto en IA te dirá: “Estas son las características que llevaron a tu modelo a predecir X ventas o generar X valor”. Hablar de IA es hablar de cómo fluye la información, la certeza del modelo y los factores que influyen en sus decisiones. No solo en mira, esta bonito, págame.
Ah, pero eso no te lo va a decir la empresa multi-billonaria amigo, te lo va a decir un profesional experto en IA Generativa que ha tomado tiempo no solo para aprender a usar ChatGPT, sino a evaluarlo fuera de un API key o interfaz web. Te dejo un blog al respecto:
“Alucinaciones” de la IA: El Peligro de la Confianza Ciega
La noticia de que la justicia italiana alerta de las “alucinaciones” de la IA es una advertencia clara: no podemos confiar ciegamente en esta tecnología. Un abogado que cita sentencias inexistentes demuestra la necesidad de verificar siempre la información generada por la IA.
Los sistemas de IA son software, sí, pero con un componente único: aprendizaje autónomo. Su nivel de autonomía varía según los recursos invertidos. A mayor inversión, mayor capacidad de aprendizaje y predicción. De igual forma, a mayor especificad, mejor rendimiento produce.
El análisis de valores SHAP es una de decenas de técnicas que ayudan a comprender y describir qué variables contribuyen más en el resultado de un modelo de IA… ¿La conocías? Pues hay decenas más allá afuera para hacer Explainable AI o IA explicativa.
No caigas en los “espejos y humo” de promesas exageradas. La clave está en entender qué puede y qué no puede hacer un modelo, y no dejarte llevar por el hype.
Conclusión
La IA es poderosa, pero no mágica. Desconfía del marketing, exige claridad y enfócate en lo que los datos y el modelo realmente dicen. Antes de invertir en cualquier solución de IA, haz tu tarea, consulta con expertos y verifica la información. No te dejes engañar por promesas vacías.
¿Has visto estas tácticas de “humo” en la industria de la IA? ¿Qué consejos darías a las empresas que están considerando invertir en IA? Comparte tus experiencias y opiniones en los comentarios.
Written by Chris Galleta
R&D | AI Consultant & Full Stack Data Scientist | You cannot compete with someone who loves what he does. It is in his instict. He does not compete. He lives.
https://www.linkedin.com/in/chrisgalleta/