La IA siempre suena segura – incluso cuando se equivoca
Por qué nunca debes creer a ciegas las respuestas de una IA: hechos inventados, fuentes inventadas, prejuicios ocultos.
Lo traicionero de la IA: siempre responde con seguridad – incluso cuando se equivoca de lleno. Como lo formula todo con tanta fluidez, hasta lo falso suena convincente.
Lo que debes tener en cuenta
- Inventa hechos. Cifras, fechas y nombres falsos, formulados de forma convincente. Los expertos lo llaman «alucinar».
- Inventa fuentes. A veces la IA cita libros, frases o enlaces que no existen. Compruébalo siempre tú mismo.
- No es neutral. Adopta prejuicios y lagunas de los textos con los que se entrenó.
- Los «detectores de IA» no son una prueba. Los programas que supuestamente reconocen si un texto lo ha escrito una IA se equivocan a menudo.
Compruébalo. Ante cada respuesta de una IA, pregúntate: ¿de verdad es así? Abre fuentes reales, compara con lo que ya sabes. Solo quien sabe algo por sí mismo se da cuenta de cuándo la IA dice tonterías.
Una buena prueba: pregunta a la IA por tu instituto o por una persona de tu ciudad. A menudo obtendrás respuestas muy seguras que son totalmente inventadas.
Una IA te da un año y una fuente. ¿Qué haces?
La IA puede inventar hechos e incluso fuentes y aun así sonar convincente. Comprueba las cifras y abre de verdad la fuente – la seguridad no es una prueba.