El reciente modelo de generación de imágenes 4o de OpenAI ha demostrado una capacidad asombrosa para generar texto dentro de las imágenes, especialmente en la creación de documentos falsos, convirtiéndose en la "nueva mascota" de algunos usuarios. La proliferación de recibos falsos, recetas médicas falsas y pasaportes falsificados es motivo de preocupación.
En las redes sociales, el inversor de Menlo Ventures, Deedy Das, publicó una foto de un recibo falso que mostraba una lujosa cena en un conocido restaurante de carnes de San Francisco. Das tuiteó: "Puedes usar 4o para generar recibos falsos". Esta frase generó una gran atención, ya que muchos procesos de verificación en el mundo real dependen de "imágenes reales" como prueba, y ahora todo esto ha cambiado.
A primera vista, el recibo falso parece muy real, con un detallado listado de varios platos, un subtotal correcto y el cálculo de la propina. Algunos usuarios incluso han editado las imágenes generadas por el modelo añadiendo filtros realistas y manchas de comida, convirtiéndolo en una herramienta perfecta para el fraude de gastos.
Con el desarrollo de la tecnología, la capacidad de generación de imágenes de OpenAI ha mejorado significativamente. Los modelos anteriores a menudo mostraban caracteres ilegibles y frases divertidas al reproducir letras, pero la capacidad de 4o ha solucionado casi por completo estos problemas. Los usuarios no solo pueden generar recibos falsos de cenas de lujo, sino que incluso pueden crear recetas falsas para medicamentos controlados, como el Zoloft.
Este fenómeno ha generado una gran preocupación sobre la generación de documentos falsos mediante IA. La capacidad de generar documentos falsos facilita una serie de actividades ilegales, incluyendo la falsificación de declaraciones de impuestos, cheques bancarios, documentos de identidad y certificados de nacimiento. Ante esta situación, sigue siendo una incógnita si los métodos actuales de detección de documentos pueden ser efectivos.
Aunque algunas empresas de IA han comenzado a intentar utilizar metadatos adicionales o marcas de agua para identificar las imágenes generadas, estas medidas de protección parecen insuficientes para detener completamente las actividades fraudulentas. Según una encuesta de 2015, el 85% de los encuestados admitieron haber mentido para obtener más reembolsos. Estos casos de fraude a menudo pasan desapercibidos debido a la falta de control interno y a los procesos de cuentas por pagar deficientes. En otras palabras, en esta época, casi no se puede creer nada de lo que se ve en internet.
Puntos clave:
📄 El nuevo modelo de generación de imágenes 4o de OpenAI puede crear fácilmente recibos y recetas falsas, lo que genera preocupación.
💻 Los modelos de generación de imágenes anteriores tenían dificultades para generar texto, pero la capacidad de 4o ha mejorado significativamente.
🛡️ La capacidad de crear documentos falsos plantea dudas sobre la eficacia de los métodos de detección actuales.
