Por qué se equivoca la IA — alucinaciones, límites y cómo cuidarte

El juez Kevin Castel estaba sentado en su despacho del distrito sur de Nueva York con un escrito judicial abierto sobre la mesa. Junio de 2023. El escrito citaba seis casos anteriores para apoyar el argumento del abogado. Castel quiso leerlos antes de fallar. Buscó el primero: Varghese v. China Southern Airlines. No existía. Buscó el segundo. No existía. Los seis eran inventados.

El abogado se llamaba Steven Schwartz. Tenía treinta años de matrícula. Había usado ChatGPT para preparar el escrito y no verificó los casos. Terminó con una multa y una sanción disciplinaria pública. La escena dio la vuelta al mundo.

No es un caso raro. Es el caso típico.

Qué es una alucinación

Una alucinación es cuando la IA te dice algo falso con la misma seguridad con la que te diría algo cierto. No es que mienta con intención. Es que no distingue.

La mejor analogía es la del amigo que nunca dice "no sé". Le preguntás cuánto sale un pasaje a Madrid, te tira una cifra. No tiene ni idea, pero te responde. Te va a parecer convincente hasta que chequeás.

La IA funciona parecido — con una diferencia importante: lo hace en escala industrial y suena más profesional que tu amigo.

Cuatro ejemplos de todos los días

• Precios inventados. "¿Cuánto cuesta tal curso?" Te tira 320 dólares. El curso cuesta 180 o no existe más.
• Leyes que no existen. Una persona argentina le pregunta por la Ley de Alquileres. Le responde con un artículo y un número. El artículo es real, el número está cambiado.
• Biografías con errores. Le pedís la biografía de un profesional conocido. Mezcla datos de dos personas distintas con el mismo apellido.
• Estadísticas inventadas. "¿Qué porcentaje de empresas usan IA?" Te tira un 72 por ciento con fuente en un informe que no existe.

Los cuatro errores tienen algo en común: suenan verosímiles. Por eso funcionan — y por eso son peligrosos.

Cinco formas de cuidarte

1. Verificá lo que importa. Cifras, fechas, leyes, citas textuales, nombres propios. Si el error te puede costar algo, revisá.
2. Pedí fuentes. Decile "citame de dónde sacás esto". Si no puede citar, ponelo en duda.
3. Preguntá "¿estás seguro?". Suena tonto. Funciona. A veces la IA corrige sola cuando la presionás un poco.
4. Comparala con otra IA. Hacé la misma pregunta en Claude y en ChatGPT. Si coinciden, es más probable que sea cierto. Si discrepan, tenés que chequear vos.
5. No delegues decisiones importantes. La IA es ayudante, no decisor. El contrato lo firmás vos. El diagnóstico lo hace el médico. La recomendación financiera la da tu contador.

Lo que tenés que llevarte

Tres ideas para no equivocarte con esto:

1. La IA no miente, predice. Completa lo más probable dado lo que viene antes. A veces lo más probable es cierto y a veces no. Partir de ahí te cambia la manera de usarla.

1. La verificación no es opcional. Es parte del trabajo. Si la IA te ahorra dos horas pero te mete un error grave, te quedaste sin la IA y con el error.

1. Una manera es pedirle que busque en web y cite fuentes. Ese gesto simple baja mucho la tasa de alucinación porque convierte la tarea de recordar en consultar.