A medida que la inteligencia artificial generativa se incorpora en las plataformas que usamos a diario, los debates giran en torno a quién debería recibir crédito y compensación por las obras generadas por IA.
YouTube está negociando acuerdos de licencia con compañías discográficas para usar las voces de los músicos y crear nueva música en sus estilos. Mientras tanto, algunas plataformas de IA que generan arte están encontrando maneras de pagar a los artistas por sus contribuciones a los datos utilizados para entrenar los modelos de IA de las plataformas.
Pero ¿qué pasa con el texto? ¿Deberían —y si es así, cómo deberían— los escritores ser reconocidos y remunerados por obras generadas por IA que imitan sus voces? Esas son preguntas que probablemente serán planteadas por una función de Grammarly, el asistente de escritura en la nube, que está programada para ser lanzada a finales de año para suscriptores del nivel empresarial de Grammarly. Llamada «Detección y aplicación de voz personalizada», la función detecta automáticamente el estilo de escritura único de una persona y crea un «perfil de voz» que puede reescribir cualquier texto en el estilo de la persona.
«Porque Grammarly funciona en aplicaciones y herramientas, podemos entender el estilo único y las preferencias de un usuario en los lugares donde se comunican para generar un perfil personalizado», dijo Tal Oppenheimer, jefa de producto de las aplicaciones cliente de Grammarly, a TechCrunch en una entrevista por correo electrónico. «Generamos el perfil de una persona a medida que usan nuestro producto de forma pasiva». Oppenheimer afirma que cada perfil, que viene con una descripción generada por IA que destaca lo que Grammarly ve como las características definitorias del estilo de la persona (por ejemplo, «positivo», «alentador»), puede personalizarse hasta cierto punto. Los usuarios pueden descartar elementos como el tono y las elecciones de estilo —digamos, una tendencia a usar voz activa y oraciones compuestas— que consideran que no reflejan con precisión la forma en que escriben.
La nueva función de perfil de voz de Grammarly, que utiliza IA generativa para igualar el estilo de escritura de una persona. Créditos de la imagen: Grammarly
«A medida que esta es la primera versión de nuestras funciones de voz personalizadas, seguiremos refinándolas con el tiempo y considerando formas de hacerlas aún más personalizadas para los clientes y sus necesidades», dijo Oppenheimer.
Grammarly presenta la tecnología como una forma para que los escritores aprovechen el contexto para «hacer que [su] escritura suene más personal». Pero este escritor se preocupa por cómo podría ser usada de manera considerablemente menos caritativa. Imagina a una empresa utilizando un perfil de voz de Grammarly mientras un escritor está de licencia —o después de haber sido despedido— para publicar entradas de blog bajo su nombre sin su aprobación y sin compensarlos. O, imagina un perfil de voz de Grammarly siendo utilizado para suplantar a alguien en un intento sofisticado de phishing. No es tan descabellado como suena. La autora Jane Friedman descubrió en agosto que se estaban vendiendo libros nuevos en Amazon bajo su nombre —nuevos libros que no escribió y que parecían haber sido generados por IA. (Amazon luego eliminó los libros falsos y dijo que sus políticas prohíben tal imitación).
Grammarly no es la primera en sacar a la luz el problema de las protecciones para escritores en lo que respecta a la IA generativa, por supuesto. Miles de autores firmaron recientemente una carta abierta denunciando las tecnologías de IA generativa que «imitan y regurgitan» su «lenguaje, historias, estilo e ideas». Mientras tanto, escritores en California y Nueva York han ido un paso más allá, demandando a la startup de IA OpenAI —que dicen entrenó una IA generadora de texto con su trabajo sin permiso— por presunto robo de propiedad intelectual.
Ahora, para ser justos con Grammarly, no cualquiera puede acceder a un perfil de voz de Grammarly. Al menos en su lanzamiento, los usuarios individuales solo pueden usar su perfil de voz correspondiente —no el de nadie más. Y no pueden ser exportados. Sin embargo, me preocupa cómo podrían evolucionar los perfiles de voz a la larga dados los énfasis de Grammarly en el ahorro de costos en sus materiales de marketing. Concebiblemente, en la búsqueda de reducir costos, una empresa suscrita a Grammarly eventualmente querrá acceso a todos los perfiles de sus escritores. ¿Grammarly se los negará? ¿Quién puede decirlo?
Por su parte, Oppenheimer enfatizó que los perfiles de voz «no están diseñados para reemplazar a nadie». «En lugar de imitarlos, [los perfiles de voz] ayudan a [los escritores] a aprender cómo suenan, crear una producción más personalizada y escribir de una manera más auténtica». Llámenme escéptico, pero soy muy cauteloso.
La detección y aplicación de voz personalizada se une a otras características de IA generativa de Grammarly, muchas de las cuales ingresan a la disponibilidad general esta semana. La compañía, que tiene más de 30 millones de usuarios y más de 70,000 equipos en sus plataformas, dice que los usuarios están creando más de 12 millones de piezas de contenido semanalmente con las características.
