Alucinación de la IA
En inglés: AI hallucination
Cuando una IA inventa un dato, una cita o una ley y lo afirma como cierto.
¿Qué es una alucinación de la IA y cómo evito que me dé información falsa?
Los modelos de lenguaje escriben la continuación más probable de un texto. Casi siempre eso coincide con la realidad, pero a veces el resultado suena perfecto y es inventado: una cifra que nadie publicó, un artículo de ley con el número cambiado o una librería de código con un nombre parecido al real.
Se le llama alucinación porque la IA no avisa. Escribe con la misma seguridad lo cierto y lo falso, así que lo importante se comprueba fuera de ella, en la fuente original o ejecutando el código.
Por qué le importa a tu negocio
Si usas IA para escribir los textos de tu página, responder clientes o preparar un informe, una alucinación puede terminar publicada con tu nombre, por ejemplo un precio que no ofreces o una norma citada con el número equivocado. Por eso conviene que la IA trabaje con información de tu negocio y que una persona revise lo que sale al público.
Cómo lo usamos en Damorus
En el sitio de Damorus aplicamos una regla escrita: ninguna cifra se publica sin una fuente, y cada dato de este diccionario sobre leyes, fechas o pagos se abrió y se leyó en su fuente antes de escribirlo. En La Roca nos quedó otra lección, que vale igual para personas y para máquinas: que no aparezca un error no confirma que algo salió bien. Cuando no pudimos verificar algo, lo dijimos así.
¿Lo necesitas en tu proyecto?
Quiero mi boceto gratuito →