¿Qué es una alucinación de una IA?
Una alucinación es una respuesta generada por un sistema de IA que suena correcta pero es falsa: un dato inventado, una fuente que no existe, una cita atribuida a quien nunca la dijo. No es un error de programación ni una falla puntual; es una consecuencia conocida de cómo funcionan los modelos de lenguaje, que producen el texto más plausible y no el más verdadero.
Ahí está la parte incómoda: la alucinación no viene con señales de alarma. Un LLM redacta con el mismo tono seguro cuando sabe y cuando completa un hueco, así que el error llega con la misma apariencia de solidez que el acierto. Por eso el riesgo no se mide por la frecuencia sino por dónde puede caer: un resumen mal redactado se corrige; un precio inventado en una conversación con un cliente genera un problema real.
El terreno donde más aparecen es previsible: datos concretos que el modelo no tiene: cifras, fechas, nombres propios, disponibilidad, condiciones de un servicio, referencias bibliográficas. Cuanto más específica y menos pública sea la información pedida, más probable es que se complete con algo verosímil.
Los controles que la vuelven manejable son tres, y son de diseño, no de suerte:
- Darle la fuente. Un sistema que responde a partir de un documento propio —una base de conocimiento con la información real del negocio— tiene mucho menos margen para inventar que uno que responde de memoria.
- Instruirlo para que no complete. La regla "si no está en el material, decir que se consulta" se define por escrito y se prueba: es lo que separa a un agente confiable de uno peligroso.
- Derivar a una persona. Ante una pregunta fuera de lo previsto, la respuesta correcta es la derivación a humano, no un intento.
Un proveedor que promete que su sistema nunca se equivoca está prometiendo algo que la tecnología no da. Lo que sí se puede exigir es que avise cuando no sabe.
Ejemplo aplicado a un negocio
Un negocio que atiende consultas automatizadas define que el sistema responde solo con la información cargada y que cualquier pregunta sobre disponibilidad, descuentos o casos especiales pasa a una persona. Así, la peor respuesta posible es "esto lo confirmo y le respondo", que es una respuesta aceptable.
Relacionado