Un chatbot inventa respuestas porque los modelos de lenguaje están hechos para escribir texto que suene probable, no para comprobar si es cierto: cuando no tienen el dato, a veces lo rellenan. Se evita haciendo que el asistente responda solo con la información que tú le das y que diga "no lo sé" cuando la respuesta no está ahí. Eso es lo que hace Conversso, y puedes comprobarlo tú mismo en el simulador antes de publicar.
En resumen:
- Una alucinación es una respuesta inventada que suena segura: un precio, un horario o una política que no existe.
- La solución es buscar primero en tus fuentes y responder solo con lo que encuentra (lo que se conoce como RAG).
- Conversso responde solo con tus documentos, textos, sitio web, catálogo o tabla, y si no encuentra la respuesta dice que no lo sabe.
- Pruébalo en el simulador con una pregunta cuya respuesta no esté en tus fuentes.
Qué es una alucinación, sin jerga
Imagina a un vendedor nuevo que quiere quedar bien. Un cliente le pregunta si hacen envíos a otra ciudad y, en vez de decir "déjame confirmarlo", responde "sí, claro, llega en dos días". Suena bien, pero nadie le dio ese dato.
Eso es una alucinación de IA: el modelo produce una respuesta fluida y segura que no está respaldada por ninguna información real.
Por qué pasa
Un modelo de lenguaje aprendió a escribir leyendo enormes cantidades de texto. Cuando le haces una pregunta, arma la respuesta que estadísticamente "debería" venir después. Si sabe la respuesta, bien. Si no la sabe, no siempre se detiene: completa el hueco con algo que suena razonable.
Por eso los errores típicos de un chatbot sin control son tan peligrosos para un negocio:
- Un precio de hace un año o directamente inventado.
- Un descuento o promoción que nunca existió.
- Una política de devoluciones distinta a la tuya.
- Un horario o una dirección equivocados.
Cada uno de esos errores termina en un cliente molesto o en una discusión que tu equipo tiene que resolver.
La solución: que busque antes de responder (RAG en simple)
La técnica que usan los asistentes que no inventan se llama RAG, por sus siglas en inglés: generación aumentada por recuperación. Dicho en simple:
- El cliente pregunta.
- El asistente busca en la información de tu negocio los fragmentos relacionados con esa pregunta.
- Le pasa al modelo esos fragmentos con una instrucción clara: responde solo con esto.
- Si no encontró nada útil, la respuesta correcta es "no lo sé" o pasar la conversación a una persona.
Es la diferencia entre preguntarle a alguien que responde de memoria y preguntarle a alguien que abre el manual antes de hablar.
Cómo lo hace Conversso
Conversso responde solo con las fuentes que carga tu negocio, que forman tu base de conocimiento:
- Documentos: PDF, Word (.docx), .txt y .md.
- Textos escritos: preguntas y respuestas o bloques de conocimiento, con plantillas de borrador por sector.
- Tu sitio web: en Free, una página; en Expert, la página y hasta unas 5 páginas internas del mismo dominio.
- Catálogo de Shopify o WooCommerce por URL: nombre, precio, categoría, descripción corta y enlace de cada producto.
- Una tabla de Supabase en vivo, en solo lectura.
Si la respuesta no está en esas fuentes, el asistente dice que no lo sabe en vez de inventar. Para tu cliente, un "no tengo ese dato, te comunico con alguien del equipo" es mucho mejor que un dato falso.
Además, cada respuesta en la bandeja muestra qué fuente usó el asistente. Si algo no te convence, sabes exactamente qué documento o texto corregir.
Cómo cargar buenas fuentes
Un asistente que solo responde con tus fuentes es tan bueno como esas fuentes. Estas prácticas marcan la diferencia:
Escribe lo que preguntan tus clientes
Revisa tus últimos chats de WhatsApp y anota las 20 preguntas que más se repiten. Luego asegúrate de que cada una tenga respuesta en tus textos escritos o documentos.
Un dato, un lugar
Si el precio de un servicio aparece en tres documentos con valores distintos, el asistente puede encontrar el equivocado. Mantén cada dato en una sola fuente y borra versiones viejas.
Sé explícito con lo que no haces
Si no haces envíos internacionales, escríbelo. Si no aceptas devoluciones de productos en oferta, escríbelo. Las respuestas negativas también son información.
Actualiza el catálogo
El catálogo de tu tienda es una foto del momento en que lo sincronizas. Si cambias precios, vuelve a sincronizar desde el panel.
Para documentos largos, te damos más consejos en entrenar un chatbot con PDF y Word y en la página de chatbot con documentos.
Pruébalo en el simulador (con un truco)
El simulador del panel te deja conversar con tu asistente antes de publicarlo. Úsalo así:
- Haz las preguntas frecuentes tal como las escribiría un cliente, con errores de ortografía incluidos. Comprueba que las respuestas coinciden con tus fuentes.
- Haz una pregunta cuya respuesta NO esté en tus fuentes. Por ejemplo, si vendes ropa y nunca mencionaste envíos a otro país, pregunta: "¿Envían a España?". El asistente debe decir que no tiene esa información, no inventar un "sí".
- Pregunta por un dato que cambiaste hace poco, como un precio, para confirmar que toma la versión actual.
- Revisa la fuente que muestra cada respuesta.
El paso 2 es el más importante: es la prueba directa de que el asistente no inventa. Ten en cuenta que las respuestas del simulador también consumen mensajes IA de tu plan.
Si quieres ver cómo responde un asistente con fuentes reales, visita las demos públicas de una tienda de ropa y una inmobiliaria ficticias.
Seguros: temas de los que no debe opinar
Hay preguntas cuya respuesta sí podría estar en tus fuentes, pero que prefieres que el asistente no toque. En el plan Expert existen los Seguros: le indicas al asistente temas de los que no debe opinar.
Por ejemplo, un estudio contable puede pedirle que no dé recomendaciones tributarias personales, aunque sus documentos hablen de impuestos. Combinados con las Reglas del plan Expert, que definen cuándo pasar la conversación a una persona, te dan control sobre lo que el asistente dice y lo que deriva a tu equipo.
Una recomendación general: no pidas datos sensibles por el asistente (salud, información de menores). Si llegan, lo mejor es que los atienda una persona.
Prueba un asistente que dice "no lo sé"
La forma más rápida de comprobar que un asistente no inventa es ponerlo a prueba con tu propia información. Crea tu cuenta gratis en Conversso, sin tarjeta, carga tus documentos y textos, y hazle en el simulador una pregunta que no esté en ellos. Si responde que no lo sabe, va por buen camino.
Preguntas frecuentes
- ¿Por qué mi chatbot inventa precios o información?
- Porque los modelos de lenguaje generan texto probable y, si no tienen el dato, a veces lo rellenan. Se reduce haciendo que el asistente busque primero en tus fuentes y responda solo con lo que encuentra.
- ¿Cómo hago para que un chatbot diga "no lo sé"?
- Usa un asistente que responda solo con tu información y que tenga instrucción de admitir cuando no encuentra la respuesta. Conversso funciona así: si el dato no está en tus fuentes, dice que no lo sabe.
- ¿Qué es RAG en un chatbot?
- Es una técnica en la que el asistente busca en la información de tu negocio antes de responder y usa solo esos fragmentos para armar la respuesta. Lo explicamos en el diccionario: RAG. diccionario: RAG
- ¿Cómo pruebo que mi chatbot no inventa respuestas?
- En el simulador, hazle una pregunta cuya respuesta no esté en tus fuentes. Si responde que no tiene esa información en lugar de inventar, está funcionando bien.
- ¿Puedo evitar que el chatbot hable de ciertos temas?
- Sí. En el plan Expert de Conversso puedes configurar Seguros, que son temas de los que el asistente no debe opinar, y Reglas para pasar la conversación a una persona.