Cómo reducir las alucinaciones de la IA en la empresa

Para reducir las alucinaciones de la IA, da al modelo los datos en lugar de pedirle que los recuerde, indícale que responda solo con esos datos y que avise cuando falte algo, limita el formato de salida, verifica los detalles críticos de forma automática o con una persona, y mantén la revisión humana en los resultados con mucho en juego. Las alucinaciones no se pueden eliminar del todo, así que el objetivo es un proceso en el que sean raras y se detecten antes de causar daños.

Por qué alucinan los modelos de lenguaje

Un gran modelo de lenguaje genera texto prediciendo los siguientes tokens más probables a partir de los patrones aprendidos en el entrenamiento y del contenido del prompt. No tiene ningún mecanismo integrado que compruebe si una afirmación es cierta. Cuando el prompt no contiene los datos necesarios y el entrenamiento no los cubre de forma fiable, el modelo produce igualmente un texto fluido y seguro, que puede ser erróneo.

Desencadenantes habituales:

• Falta de información. Preguntar por tus políticas internas, un cliente concreto o cualquier cosa que el modelo nunca recibió.
• Detalles concretos. Cifras exactas, fechas, nombres, especificaciones de producto, referencias legales y citas.
• Hechos recientes. Lo que ocurrió después de recopilarse los datos de entrenamiento.
• Preguntas tendenciosas. «¿Por qué X es la mejor opción?» invita al modelo a justificar una premisa.
• Presión por responder. Los prompts que exigen una respuesta no dejan espacio para «no lo sé».
• Contexto largo y con ruido. Los datos importantes enterrados en documentos grandes pueden pasarse por alto o mezclarse.

Tipos de alucinaciones que vigilar

Tipo	Ejemplo
Datos inventados	Una función de producto que no existe
Cifras erróneas	Un importe, fecha o porcentaje que no coincide con la fuente
Fuentes fabricadas	Una cita, un estudio o una URL que no existe
Atribución errónea	Una afirmación asignada al documento, persona o sección equivocados
Conclusiones sin respaldo	Una recomendación que los datos facilitados no sostienen
Desviación de las instrucciones	Ignorar una regla, como prometer un reembolso que la política no permite

Conocer los tipos ayuda a diseñar los controles adecuados.

Estrategia 1: anclar el modelo en fuentes

El paso más eficaz es aportar los datos. En lugar de «¿Cuál es nuestra política de devoluciones?», envía el texto de la política con la pregunta e indica al modelo que responda a partir de él.

Con bases de conocimiento mayores, usa la recuperación: busca en tus documentos los pasajes relevantes para cada pregunta e inserta solo esos en el prompt. Este enfoque se llama generación aumentada por recuperación (RAG). Nuestra comparativa RAG o fine-tuning explica cómo funciona y por qué el fine-tuning no suele ser la solución para la exactitud de los datos.

El anclaje funciona mejor cuando:

• los pasajes recuperados contienen de verdad la respuesta (la calidad de la recuperación importa),
• las fuentes están al día y son coherentes entre sí,
• el prompt separa claramente las fuentes de las instrucciones.

Estrategia 2: prompts que permitan decir «no lo sé»

Añade reglas explícitas:

• «Responde solo con la información de las fuentes de abajo».
• «Si las fuentes no contienen la respuesta, di que la información no está disponible. No adivines».
• «Cita las cifras tal como aparecen en la fuente».
• «Si las fuentes se contradicen, señala la contradicción en lugar de elegir una».

Así el comportamiento por defecto del modelo pasa de dar una respuesta a dar una respuesta respaldada. La guía de ingeniería de prompts explica cómo formular reglas claras, y el generador de prompts para IA incluye una opción que añade la instrucción de expresar la incertidumbre en lugar de adivinar.

Estrategia 3: pide pruebas

Exige al modelo que indique de dónde sale cada afirmación:

• «Para cada punto clave, incluye el número de sección o una cita breve de la fuente».
• «Enumera al final las fuentes utilizadas».

Así la verificación es mucho más rápida para los revisores. No es una garantía, porque el modelo también puede citar mal, así que conviene comprobar las propias citas, idealmente de forma automática.

Estrategia 4: limita la salida

El texto libre da al modelo margen para adornar. Las salidas estructuradas lo reducen:

• Pide campos concretos en lugar de prosa.
• Usa null o «no encontrado» para los valores ausentes.
• Usa las funciones de salida estructurada o de esquema de tu proveedor cuando existan.
• Limita la longitud. Las respuestas largas contienen más afirmaciones y, por tanto, más ocasiones de error.

Estrategia 5: divide las tareas en pasos

Un único prompt grande que investiga, analiza y redacta invita a errores. Dividir ayuda:

1. Extraer los datos relevantes de las fuentes.
2. Comprobar los datos extraídos (con código, con una segunda llamada al modelo o con una persona).
3. Redactar la respuesta solo con los datos comprobados.

Cada paso es más sencillo y más fácil de verificar.

Estrategia 6: verifica automáticamente cuando puedas

Muchas alucinaciones se detectan con comprobaciones sencillas en el código:

• ¿Aparecen en la fuente todas las cifras de la respuesta?
• ¿Existen literalmente en la fuente los pasajes citados?
• ¿Coinciden con la base de datos los nombres de producto, números de pedido o nombres de clientes?
• ¿Los enlaces llevan a páginas reales de tu web?
• ¿La salida cumple el esquema exigido?

Las comprobaciones automáticas son baratas y se aplican a todos los resultados, algo que la revisión humana sola no siempre puede hacer a gran escala.

Estrategia 7: mantén a las personas donde importa

En los resultados para clientes, financieros, jurídicos o con consecuencias, una persona debe revisar antes de usarlos, al menos hasta tener pruebas sólidas de fiabilidad. Diseña la revisión para que el revisor vea la fuente junto al resultado y sepa qué comprobar. Nuestra guía sobre IA con human-in-the-loop explica cómo mantener una revisión eficaz y evitar aprobar por inercia.

Estrategia 8: elige el modelo y los ajustes adecuados

Los modelos difieren en lo bien que siguen las instrucciones y se ciñen a las fuentes. Prueba los candidatos con tus propios casos y con preguntas cuya respuesta correcta conozcas, incluidas preguntas que las fuentes no responden. Consulta cómo elegir un LLM para un método de evaluación. Los ajustes también pueden importar: en tareas factuales, una aleatoriedad más baja, si está disponible, suele dar resultados más consistentes.

Ejemplo: un prompt de respuesta anclada

Respondes a preguntas de los empleados sobre las políticas de la empresa.

Fuentes:
<source id="1">[extracto de la política]</source>
<source id="2">[extracto de la política]</source>

Reglas:
- Responde solo con las fuentes. Indica el id de la fuente tras cada afirmación,
  p. ej. [1].
- Si las fuentes no responden a la pregunta, contesta: "No he encontrado esto en las
  políticas. Contacta con RR. HH., por favor." No añadas consejos generales.
- Cita las cifras y los plazos con exactitud.
- Si dos fuentes se contradicen, dilo y cita ambas.

Pregunta: """[pregunta del empleado]"""

Medir la tasa de alucinaciones

Para saber si tus cambios funcionan, mide:

1. Crea un conjunto de prueba de preguntas con respuesta correcta conocida, incluidas algunas que no se pueden responder con las fuentes.
2. Ejecuta el sistema y marca cada respuesta como correcta, parcialmente correcta, errónea o rechazada correctamente.
3. Presta especial atención a las respuestas erróneas que suenan seguras.
4. Repite tras cada cambio de prompts, recuperación, fuentes o modelo.

Sigue con el tiempo la tasa de afirmaciones sin respaldo, no solo la precisión global.

Dónde las alucinaciones entrañan más riesgo

Ámbito	Por qué	Control mínimo
Comunicación con clientes	Promesas, precios o políticas erróneos	Anclaje + revisión humana
Contenido jurídico y de cumplimiento	Referencias u obligaciones inventadas	Revisión experta, siempre
Cifras financieras	Los errores se propagan a las decisiones	Comprobación automática de cifras + revisión
Información médica o de seguridad	Posible daño	No automatizar sin supervisión especializada
Contenido publicado	Daño reputacional	Verificar los datos antes de publicar

Errores habituales

• Fiarse de la fluidez. Bien escrito no es lo mismo que correcto.
• Preguntar al modelo lo que no puede saber. Aporta tú la información.
• Tomar las citas como prueba. Comprueba que las fuentes citadas existen y dicen lo que se afirma.
• Sin conjunto de prueba. Sin medición, las mejoras son conjeturas.
• Retirar la revisión demasiado pronto. Una racha de buenos resultados no demuestra fiabilidad en casos inusuales.

Resumen

Las alucinaciones son una propiedad del funcionamiento de los modelos de lenguaje, no un fallo raro. Redúcelas anclando las respuestas en fuentes, permitiendo el «no lo sé», limitando las salidas, verificando los detalles críticos y manteniendo a las personas en el circuito en todo lo que tenga consecuencias. Incorpora estos controles desde el principio, como parte de tu plan para implantar la IA en una pyme.