Existe una nueva tendencia algo preocupante que se está volviendo viral: las personas están utilizando ChatGPT para averiguar la ubicación mostrada en las imágenes.
Esta semana, OpenAI lanzó sus modelos de inteligencia artificial más recientes, o3 y o4-mini, ambos de los cuales pueden «razonar» de manera única a través de imágenes cargadas. En la práctica, los modelos pueden recortar, rotar y hacer zoom en fotos, incluso borrosas y distorsionadas, para analizarlas a fondo.
Estas capacidades de análisis de imágenes, combinadas con la capacidad de búsqueda en la web de los modelos, crean una herramienta potente para encontrar ubicaciones. Los usuarios en X descubrieron rápidamente que o3, en particular, es bastante bueno deduciendo ciudades, monumentos e incluso restaurantes y bares a partir de pistas visuales sutiles.
En muchos casos, los modelos no parecen estar basándose en «memorias» de conversaciones pasadas de ChatGPT o en datos EXIF, que son los metadatos adjuntos a las fotos que revelan detalles como dónde se tomó la foto. X está lleno de ejemplos de usuarios que dan menús de restaurantes, imágenes de vecindarios, fachadas y autorretratos a ChatGPT, e instruyen a o3 para imaginar que está jugando a «GeoGuessr», un juego en línea que desafía a los jugadores a adivinar ubicaciones a partir de imágenes de Google Street View.
Es evidente que existe un posible problema de privacidad. Nada impide que un actor malintencionado tome capturas de pantalla, por ejemplo, de una Historia de Instagram de una persona y use ChatGPT para intentar identificarla.
Por supuesto, esto podría hacerse incluso antes del lanzamiento de o3 y o4-mini. TechCrunch sometió varias fotos a o3 y a un modelo más antiguo sin capacidad de razonamiento de imagen, GPT-4o, para comparar las habilidades de adivinanza de ubicación de los modelos. Sorprendentemente, GPT-4o llegó a la misma respuesta correcta que o3 con más frecuencia que o3, y tardó menos tiempo.
Hubo al menos una instancia durante nuestras pruebas breves en las que o3 encontró un lugar que GPT-4o no pudo. Dada una imagen de una cabeza de rinoceronte morado montada en un bar poco iluminado, o3 respondió correctamente que era de un speakeasy en Williamsburg, no de un pub en el Reino Unido, como lo había supuesto GPT-4o.
Esto no significa que o3 sea infalible en este sentido. Varias de nuestras pruebas fallaron: o3 se quedó atascado en un bucle, incapaz de llegar a una respuesta en la que tuviera confianza, o proporcionó una ubicación incorrecta. Los usuarios en X señalaron también que o3 puede estar bastante lejos en sus deducciones de ubicación.
Pero la tendencia ilustra algunos de los riesgos emergentes presentados por modelos de IA de razonamiento más capaces, también llamados «ChatGPT». Parece que hay pocos dispositivos de seguridad para evitar este tipo de «búsqueda de ubicación inversa» en ChatGPT, y OpenAI, la empresa detrás de ChatGPT, no aborda el problema en su informe de seguridad para o3 y o4-mini.
Hemos contactado a OpenAI para hacer comentarios. Actualizaremos nuestro artículo si responden.
