Midjourney planea lanzar una herramienta web mejorada que permitirá a los usuarios editar cualquier imagen cargada desde la web utilizando la inteligencia artificial generativa de Midjourney.
La herramienta mejorada, que el CEO de Midjourney, David Holz, dijo que será lanzada «a principios de la próxima semana», también permitirá a los usuarios retocar objetos en las imágenes para «repintar» sus colores y detalles según las leyendas.
Editar imágenes existentes con IA se ha convertido recientemente en un tema candente. Plataformas como Meta han luchado con la forma de etiquetar las imágenes editadas con herramientas de IA versus generadas desde cero con un modelo de IA, mientras que empresas como Google han lanzado potentes características de IA que no dan indicaciones visuales de que las imágenes hayan sido modificadas con IA.
El año pasado, Midjourney se comprometió a utilizar la propiedad Digital Source Type del IPTC, un estándar técnico que incrusta metadatos en las imágenes que indican que han sido generadas por IA. Sin embargo, la empresa es una de las pocas plataformas de IA importantes que no ha adoptado C2PA, una tecnología de metadatos que rastrea la procedencia completa de una imagen, incluido el equipo y el software utilizado para crearla.
En una publicación en el servidor oficial de Discord de Midjourney, Holz dijo que la herramienta de imagen mejorada estará restringida a un «subconjunto de la comunidad actual» para empezar, con una mayor moderación humana y «nuevos moderadores de IA más avanzados» para intentar prevenir el abuso.
«Sinceramente, no estamos seguros de cómo restringir con precisión la implementación de esta función,» dijo. Midjourney está solicitando comentarios de la comunidad a través de una encuesta que utilizará para determinar qué usuarios tendrán acceso primero.
Existen riesgos al lanzar este tipo de herramientas de edición sin las debidas salvaguardias. Podrían facilitar la infracción de derechos de autor a gran escala o promover la difusión de deepfakes engañosos.
Los deepfakes se están propagando como un incendio forestal en las redes sociales y dificultando distinguir la verdad de la desinformación. Recientemente, imágenes generativas de IA falsas de destrucción y sufrimiento humano inundaron la web tras el huracán Helene.
Según datos de Clarity, una firma de detección de deepfakes, se han creado y publicado un 900% más de deepfakes este año en comparación con el mismo período del año pasado. Esto está causando alarma, comprensiblemente. Una encuesta reciente de YouGov encontró que el 85% de los estadounidenses estaban preocupados por la propagación de deepfakes engañosos en línea.
En ausencia de una ley que penalice los deepfakes a nivel federal en EE. UU., más de 10 estados han promulgado leyes contra la suplantación de personalidad asistida por IA. La ley de California, actualmente detenida, sería la primera en facultar a los jueces para ordenar a los publicadores de deepfakes que los retiren o que potencialmente enfrenten multas monetarias.
Midjourney no ha sido exactamente un ejemplo brillante de despliegue responsable de IA. (Está siendo demandado por su supuesto uso de contenido con derechos de autor para entrenar sus modelos generativos de IA, por ejemplo). Pero en los últimos meses, la plataforma ha tomado medidas para limitar la propagación de deepfakes, incluidos filtros para figuras políticas de cara a las elecciones presidenciales de EE. UU.
