La Comisión Europea ha revelado una lista de los primeros 100 signatarios del Pacto de IA, una iniciativa centrada en lograr que las empresas publiquen «compromisos voluntarios» sobre cómo abordan y despliegan la inteligencia artificial. Si bien el libro de reglas de IA de la UE, el Acta de IA, vinculante por ley, entró en vigor el mes pasado, pasarán varios años antes de que todas sus fechas límite de cumplimiento estén en funcionamiento. Esto crea un vacío de no cumplimiento que la UE está ansiosa por llenar con el Pacto de AI.
El esfuerzo tiene como objetivo impulsar el compromiso y fomentar los compromisos para que las empresas tomen la delantera tomando medidas para implementar los requisitos de la ley antes de las fechas límite. El Pacto también se centra en fomentar el intercambio de información para que los signatarios puedan ayudarse mutuamente a responder a los requisitos entrantes del libro de reglas de IA de la UE y desarrollar proactivamente las mejores prácticas. Además, hay tres «acciones principales» a las que se espera que se comprometan los signatarios del Pacto (como mínimo):
Adoptar una estrategia de gobernanza de IA para fomentar la adopción de IA en la organización y trabajar hacia el cumplimiento futuro con el Acta de IA;
Identificar y mapear los sistemas de IA probablemente categorizados como de alto riesgo bajo el Acta de IA; y
Promover la conciencia y alfabetización de IA entre el personal, garantizando el desarrollo ético y responsable de IA.
Además, hay una larga lista de compromisos potenciales (disponible aquí en formato PDF) que la Comisión dice que fue redactada por la Oficina de IA, el organismo que supervisa el Acta de IA, antes de ser filtrada tras los comentarios de «partes interesadas relevantes» en la red del Pacto de IA. La lista resultante de compromisos permite a los signatarios, en esencia, elegir y combinar los compromisos que funcionen para ellos. Ejemplos incluyen compromisos para «diseñar sistemas de IA destinados a interactuar directamente con personas para que estén informadas, según corresponda, de que están interactuando con un sistema de IA,» y «etiquetar claramente y de forma distinguible el contenido generado por IA, incluidas imágenes, audio o vídeo que constituyan deep fakes.»
Esta larga lista podría fomentar una competencia pro cumplimiento entre los signatarios para ver quién ofrece más en cuanto a la seguridad de la IA.
Un Pacto para impulsar el cumplimiento más rápido del Acta de IA
La iniciativa del Pacto de IA se reveló en mayo de 2023 por entonces comisionado de mercado interno, Thierry Breton, y Google había acordado ayudar a los reguladores en la iniciativa en ese momento. Más de un año después, la UE ahora tiene muchos más firmantes, aunque algunos nombres notables faltan en la lista. Apple no está en la lista, por ejemplo, al igual que Meta. El gigante de la adtech le dijo a Reuters el martes que no se uniría de inmediato al esfuerzo, diciendo que quería centrar su trabajo de cumplimiento en el Acta de IA en sí. Las sanciones por no cumplir con el libro de reglas de IA legalmente vinculante de la UE son severas: pueden llegar hasta el 7% de los ingresos anuales globales por violar usos prohibidos de IA; hasta el 3% por incumplimiento de otras obligaciones del Acta de IA; y hasta el 1.5% por proporcionar información incorrecta a los reguladores.
Por lo tanto, si Meta comete errores en lo que respecta a las verdaderas reglas de IA, podría enfrentar miles de millones en multas. Esa puede ser la razón por la que hasta ahora ha rechazado el Pacto, ya que renunciar a los compromisos podría simplemente invitar a una reprimenda pública. La empresa francesa de modelos de lenguaje Mistral tampoco está en la lista. La empresa estaba entre las críticas más feroces del Acta de IA, por lo que no es tan sorprendente que no se haya registrado para los compromisos voluntarios. Mientras tanto, otro fabricante europeo de modelos de lenguaje de gran tamaño, Aleph Alpha de Alemania, ha firmado el Pacto. Sin embargo, recientemente dijo que estaba pivotando para proporcionar soporte B2B para herramientas de IA generativas. Dado su modelo de negocio en evolución, es posible que esté reconfigurando también sus prioridades en política. Otros en la lista incluyen a Amazon, Microsoft, OpenAI, Palantir, Samsung, SAP, Salesforce, Snap, Airbus, Porsche, Lenovo y Qualcomm.
Por otro lado, no hay señal de Anthropic, Nvidia o Spotify, ausencias notables, especialmente las dos primeras dada su relevancia para el desarrollo de IA. La ausencia de Spotify es notable ya que la empresa europea firmó una carta abierta organizada por Meta la semana pasada, haciendo lobby en contra de regulaciones que podrían obstaculizar la difusión de la IA generativa. Puede encontrar la lista completa de primeros firmantes del Pacto de IA de la UE aquí. Hay una variedad de tipos de empresas que se están inscribiendo, incluyendo importantes empresas de telecomunicaciones europeas, firmas de consultoría, jugadores de software, firmas bancarias/pagos, multinacionales, pymes y plataformas orientadas al consumidor. Obviamente, los más de 100 nombres representan la punta del iceberg cuando se considera cuán lejos y rápido se están propagando las tecnologías de IA generativas.
Y como estos son compromisos puramente voluntarios, una firma en el Pacto de IA puede no significar mucho más que un intento de obtener prestigio. También se invita a los signatarios a informar sobre el progreso 12 meses después de publicar su propia mezcla de compromisos, lo que abre la posibilidad de otra ronda de publicidad.
