¿Qué es una alucinación de IA?

Una alucinación de IA es una respuesta que un modelo de inteligencia artificial da con seguridad pero que es falsa o no tiene respaldo en ninguna fuente. En un chatbot de atención al cliente se nota cuando inventa un precio, una política de devoluciones o un horario que el negocio nunca definió.

Cómo funciona

Los modelos de lenguaje generan texto prediciendo qué palabras suenan más probables. Cuando no tienen el dato, pueden producir una respuesta que suena correcta aunque no lo sea. Es más frecuente cuando:

• La pregunta trata sobre información específica del negocio que el modelo no conoce.
• Las fuentes están incompletas o desactualizadas.
• El sistema no tiene instrucciones claras de admitir cuando no sabe algo.

Las formas habituales de reducirla son conectar el modelo a fuentes concretas mediante RAG, limitarlo a responder con esa información y pasar a una persona los casos dudosos con un traspaso a humano.

Qué significa en Conversso

El asistente de Conversso responde solo con la información que carga el negocio en su base de conocimiento. Si un dato no está, dice que no lo sabe en vez de inventarlo. Cada respuesta en la bandeja muestra qué fuente usó, así puedes revisar de dónde salió.

En los planes Expert y Max puedes definir además Seguros (temas de los que el asistente no debe opinar) y Reglas para pasar la conversación a una persona. Antes de publicar, el simulador te permite probar respuestas. Lee más en por qué un chatbot inventa respuestas y en servicio al cliente por WhatsApp.