← Todos los artículos

La IA se inventa respuestas: cómo enseñar a tu equipo a verificarlas

Hay una diferencia importante entre un compañero que no sabe algo y una IA que no lo sabe. El compañero dice que eso no lo tiene claro y que va a mirarlo. La IA responde. Con frases bien construidas, con cifras concretas, con un artículo de ley que suena perfectamente plausible. Y a veces es falso.

No es un fallo puntual ni una herramienta mala: es cómo funcionan estos sistemas. Un modelo de lenguaje no consulta una base de datos y te devuelve lo que hay; predice qué palabra encaja después de la anterior a partir de todo el texto que ha leído. Cuando tiene la información, acierta mucho. Cuando no la tiene, no se calla: rellena el hueco con lo que suena correcto. En el sector lo llaman alucinación, y el problema real no es que ocurra, sino que ocurre con el mismo tono de seguridad que cuando acierta.

Dónde duele en una pyme

Una asesoría pidió a una IA gratuita los plazos de presentación de un modelo tributario para incluirlos en un correo informativo a sus clientes. La respuesta llegó en cinco segundos, bien redactada y con fechas exactas. Dos eran correctas; una era del año anterior. Nadie lo comprobó porque el texto tenía buena pinta. El correo salió a 300 clientes y pasaron dos días desmintiéndose a sí mismos.

El coste no fue una multa. Fue la llamada a cada cliente molesto y la sensación de que, si se equivocan con una fecha, quizá también con lo demás. La confianza es el producto de una asesoría.

Las mismas trampas aparecen en todas partes: un presupuesto con un precio de catálogo que ya no existe, una ficha de producto con una medida inventada, un correo a un cliente citando una cláusula del contrato que nadie ha leído.

Las respuestas que hay que verificar siempre

No hace falta desconfiar de todo: hace falta saber dónde está el riesgo. Estas cinco categorías se comprueban sí o sí, sin excepciones.

Cifras, fechas y plazos. Precios, porcentajes, IVA, vencimientos, fechas límite. Es donde el modelo inventa con más naturalidad.

Normativa y obligaciones legales. Artículos, leyes, requisitos. Pueden existir, pueden estar derogados o pueden no haber existido nunca.

Fuentes, citas y enlaces. Si la IA cita un estudio, un informe o una dirección web, ábrela. Los enlaces inventados son habituales y tienen un aspecto impecable.

Datos de tu propio negocio. El modelo no sabe nada de tu catálogo, tus horarios ni tus condiciones, salvo que se lo hayas dado. Si responde como si lo supiera, se lo está imaginando.

Nombres de personas, empresas y productos reales. Mezcla fichas, atribuye cargos equivocados e inventa referencias que no existen.

Y una señal de alerta transversal: cuanto más segura suena la respuesta y menos matices tiene, más conviene comprobarla. Un texto que no dice en ningún momento «depende» ni «consulta la fuente oficial» cuando el tema claramente depende, es sospechoso.

Cómo explicárselo al equipo sin prohibir nada

Prohibir la IA no funciona: la gente la usa igualmente desde el móvil y entonces no te enteras. Lo que funciona es una regla de una sola frase, corta y que todo el mundo recuerde: la IA hace borradores, no hace fuentes. Nada que lleve una cifra, una fecha, una ley o el nombre de un cliente sale de la empresa sin que una persona lo haya comprobado.

A partir de ahí, tres hábitos que cuesta muy poco instalar.

Pedir la fuente, siempre. ¿De dónde ha salido esto? Si la IA no la da, o da un enlace que no abre, la respuesta no es utilizable.

Preguntar dos veces de formas distintas. Si las dos respuestas no coinciden, ninguna de las dos es fiable.

Marcar lo que es borrador. Un documento generado con IA y aún sin revisar debería llevarlo escrito. Los accidentes suelen ocurrir cuando alguien coge un borrador creyendo que era la versión buena.

Conviene también dejar claro que avisar de un error no es hacer el ridículo. Si alguien detecta que la IA le ha colado un dato falso y lo dice, la empresa acaba de ahorrarse un problema. Si tiene miedo de decirlo, el error llega al cliente.

Y si ya ha salido fuera

Corrígelo tú antes de que te lo corrija el cliente: un mensaje breve, sin excusas largas, con el dato bueno. Mira si ese mismo texto se ha reutilizado en otros sitios (web, presupuestos, plantillas de correo) y enmiéndalos todos. Y anota qué pasó: casi siempre el agujero no es de la IA, sino que nadie tenía claro quién debía revisar aquello antes de enviarlo.

Usar la IA con cabeza no es ir con miedo: es lo que permite aprovecharla de verdad. El equipo que sabe dónde están los límites es el que gana tiempo sin jugarse la reputación.

¿Quieres que tu equipo use la IA con criterio?

Escríbenos a [email protected] y montamos una formación práctica: qué se puede hacer con ella, qué hay que verificar y qué datos no deben entrar nunca.

— El equipo de IAètica