Este mes, ChatGPT presentó un nuevo generador de imágenes como parte de su modelo 4o que es mucho más avanzado en la generación de texto dentro de imágenes. La gente ya lo está utilizando para crear recibos falsos de restaurantes, potencialmente sumando otra herramienta al amplio arsenal de deepfakes de IA utilizados por estafadores.
El conocido influencer en redes sociales y VC Deedy Das publicó en X una foto de un recibo falso de una (real) churrasquería en San Francisco que él afirma que fue creado con 4o.
Otros lograron replicar resultados similares, incluso uno con manchas de comida o bebida para darle un aspecto más auténtico.
El ejemplo más realista que se encontró, fue en Francia, donde un usuario de LinkedIn compartió un recibo arrugado generado por IA para una cadena de restaurantes local.
TechCrunch probó 4o y también logró generar un recibo falso para un Applebee’s en San Francisco.
[[IMG::]]
Sin embargo, nuestro intento tenía algunas pistas que delataban que era falso. Por un lado, el total utilizaba una coma en lugar de un punto. Por otro, las matemáticas no coincidían. Las LLM todavía tienen problemas para hacer cálculos básicos, por lo tanto, no es sorprendente.
A pesar de esto, no sería difícil para un estafador corregir rápidamente algunos números con software de edición fotográfica o con instrucciones más precisas.
Está claro que tener la capacidad de generar fácilmente recibos falsos presenta grandes oportunidades para el fraude. No sería difícil imaginar que esta tecnología sea utilizada por personas malintencionadas para ser «reembolsadas» por gastos completamente inventados.
La portavoz de OpenAI, Taya Christianson, mencionó a TechCrunch que todas las imágenes incluyen metadatos que indican que fueron producidas por ChatGPT. Christianson agregó que OpenAI «toma medidas» cuando los usuarios infringen sus políticas de uso y que está «siempre aprendiendo» de su uso y retroalimentación en la vida real.
TechCrunch preguntó entonces por qué ChatGPT permite que la gente genere recibos falsos en primer lugar, y si esto va en contra de las políticas de uso de OpenAI (que prohíben el fraude). Christianson respondió que el «objetivo de OpenAI es brindar a los usuarios la mayor libertad creativa posible» y que los recibos falsos generados por IA podrían ser utilizados en situaciones legítimas como «educar a las personas sobre finanzas» junto con la creación de arte original y publicidad de productos.
