¿Qué es una alucinación de la IA y cómo evito que me dé información falsa?
Alucinación de la IA · En inglés: AI hallucination · Datos e IA
Es cuando una inteligencia artificial inventa un dato, una cita o una ley y lo afirma con total seguridad. Como no avisa, lo importante se comprueba fuera de ella, en la fuente original.
Qué es Alucinación de la IA, paso a paso
Los modelos de lenguaje escriben la continuación más probable de un texto. Casi siempre eso coincide con la realidad, pero a veces el resultado suena perfecto y es inventado: una cifra que nadie publicó, un artículo de ley con el número cambiado o una librería de código con un nombre parecido al real.
Se le llama alucinación porque la IA no avisa. Escribe con la misma seguridad lo cierto y lo falso, así que lo importante se comprueba fuera de ella, en la fuente original o ejecutando el código.
Si usas IA para escribir los textos de tu página, responder clientes o preparar un informe, una alucinación puede terminar publicada con tu nombre, por ejemplo un precio que no ofreces o una norma citada con el número equivocado. Por eso conviene que la IA trabaje con información de tu negocio y que una persona revise lo que sale al público.
Lo mismo, en pequeño y en grande
Una estudiante con su tarea
Sofía le pide a un chat de IA un libro para citar en su trabajo. Le da título y autor muy convincentes, pero el libro no existe. Ella lo busca en la biblioteca y descubre el invento antes de entregar.
Un despacho de abogados
Usan IA para resumir normas, con una regla escrita: cada artículo que la IA mencione se abre y se lee en la fuente oficial antes de ponerlo en un documento.
Cómo lo usamos en Damorus
En el sitio de Damorus aplicamos una regla escrita: ninguna cifra se publica sin una fuente, y cada dato de este diccionario sobre leyes, fechas o pagos se abrió y se leyó en su fuente antes de escribirlo. En La Roca nos quedó otra lección, que vale igual para personas y para máquinas: que no aparezca un error no confirma que algo salió bien. Cuando no pudimos verificar algo, lo dijimos así.
Pon a prueba lo que leíste
Elige A, B o C. Si fallas, lees el porqué y pruebas otra vez.
Una IA te da una cifra con mucha seguridad. ¿Qué haces antes de usarla en tu negocio?
Aprende jugando
¿Cuento o verdad?
¿Cuento o verdad?
Otros temas que te pueden interesar
También se le dice