Una sencilla publicación ha llevado a un gran debate a la evidencia de que la Inteligencia Artificial no siempre es confiable, aunque se muestre o presente como herramienta infalible.
Resulta que a través de la plataforma de X, fue publicada una antigua fotografía, que databa de los años 50 en España, época de la dictadura franquista y que estaba acompañada con la frase “Con Franco vivíamos mejor”, en tono sarcástico; el retrato de una familia humilde y el mismo mensaje resultaron incómodos para ciertas facciones extremistas de derecha en España, por lo que usuarios comenzaron a recurrir a Grok en busca de información sobre la foto.
La búsqueda, en su mayoría, estuvo motivada con intenciones de desmentir la foto pero, lo que muchos no esperaban, era que el diálogo inicial se convertiría en uno sobre la IA y los problemas que esta presenta a la hora de exhibir información.
Usuarios comenzaron a verificar si está, efectivamente databa de las fechas expuestas, utilizando la IA Grok. La herramienta dio una respuesta que pareció satisfacer a los sectores más conservadores, quienes pensaron que habían desmentido: de acuerdo a Grok se trataba de una imagen, tomada durante la Gran Depresión estadounidense, por el fotógrafo Walker Evans.
No obstante, la usuaria @ropamuig37, una historiadora, no tardó en señalar el grave error de Grok. La usuaria hizo una búsqueda alterna, utilizando la herramienta de Google Lens; a través de esta fue llevada directamente a un archivo fotográfico de la Universidad de Málaga, en la que la imagen aparece catalogada como «Vivienda, agosto de 1952, Málaga, España».
A pesar de la clara evidencia, Grok negó su error por varias horas insistiendo que era un «error de la UMA». Después de que la historiadora proporcionó los enlaces, la IA tardó varias horas en finalmente admitir una, aparentemente, simple errata. Sin embargo, a pesar de de demostrarse el error de la IA, la publicación con el fallo ya había sido masivamente compartida.
Este tipo de errores muestran los fallos de una tecnología aún en desarrollo, además de los sesgos con los que estas mismas cargas. Por otro lado, aunque se traten de errores mínimos, la desinformación inicia con datos aparentemente reales, creando una ola de ideas equivocas en la búsqueda de los usuarios.
