La inteligencia artificial no siempre dice la verdad. A veces genera información incorrecta con un tono tan convincente que resulta difícil dudar de ella. Este fenómeno, conocido como alucinaciones, adopta distintas formas: desde datos falsos presentados como hechos hasta respuestas que ignoran la mitad de lo que se preguntó, pasando por textos que alteran el contenido original que se les pidió resumir.
El problema se vuelve especialmente serio en las aulas. Investigaciones recientes señalan que hasta uno de cada tres consejos matemáticos generados por chatbots puede ser incorrecto. Y quienes menos pueden detectar el error son, precisamente, quienes más necesitan aprender.
Esto no significa que la Inteligencia Artifical deba prohibirse en el salon de claes. Significa que usarla bien exige una habilidad nueva: saber cuándo desconfiar. Porque una herramienta que a veces miente solo nos va a ser útil si se que puede mentir y por lo tanto, que su resultado se tiene que verificar.
