¡Sam Altman se retira del comité de seguridad de OpenAI!

Spread the love

El CEO de OpenAI, Sam Altman, está dejando la comisión interna que OpenAI creó en mayo para supervisar decisiones de seguridad «críticas» relacionadas con los proyectos y operaciones de la empresa.

En una publicación de blog hoy, OpenAI dijo que la comisión, el Comité de Seguridad, se convertirá en un grupo independiente de supervisión de la junta presidido por el profesor de Carnegie Mellon Zico Kolter e incluirá al CEO de Quora Adam D’Angelo, al general retirado del Ejército de EE. UU. Paul Nakasone y a la ex vicepresidenta ejecutiva de Sony Nicole Seligman. Todos son miembros existentes de la junta directiva de OpenAI.

OpenAI señaló en su publicación que la comisión realizó una revisión de seguridad de o1, el último modelo de IA de OpenAI, después de que Altman renunció. El grupo continuará recibiendo informes regulares de los equipos de seguridad de OpenAI, dijo la empresa, y retendrá el poder para retrasar lanzamientos hasta que se aborden las preocupaciones de seguridad.

Imagem destacada

«Como parte de su trabajo, el Comité de Seguridad seguirá recibiendo informes regulares sobre evaluaciones técnicas de modelos actuales y futuros, así como informes de monitoreo posterior al lanzamiento en curso», escribió OpenAI en la publicación. «Estamos construyendo sobre nuestros procesos y prácticas de lanzamiento de modelos para establecer un marco integrado de seguridad con criterios de éxito claramente definidos para los lanzamientos de modelos».

La salida de Altman del Comité de Seguridad y Seguridad se produce después de que cinco senadores de EE. UU. plantearan preguntas sobre las políticas de OpenAI en una carta dirigida a Altman este verano. Casi la mitad del personal de OpenAI que una vez se centró en los riesgos a largo plazo de la IA se ha marchado, y ex investigadores de OpenAI han acusado a Altman de oponerse a la regulación de la IA «real» a favor de políticas que promuevan los objetivos corporativos de OpenAI.

A su favor, OpenAI ha aumentado dramáticamente sus gastos en cabildeo federal, asignando $800,000 para los primeros seis meses de 2024 frente a $260,000 de todo el año pasado. Altman también se unió a la Junta de Seguridad y Seguridad de Inteligencia Artificial del Departamento de Seguridad Nacional de EE. UU. esta primavera, que proporciona recomendaciones para el desarrollo e implementación de IA en toda la infraestructura crítica de EE. UU.

Incluso con Altman fuera, hay poca evidencia de que el Comité de Seguridad y Seguridad tome decisiones difíciles que afecten seriamente la hoja de ruta comercial de OpenAI. De manera reveladora, OpenAI dijo en mayo que buscaría abordar «críticas válidas» a su trabajo a través de la comisión – «críticas válidas» siendo algo subjetivo, por supuesto.

¡World Labs de Fei-Fei Li sale de las sombras con $230 millones en financiamiento!

BlackRock y Microsoft planean crear un megafondo de $30 mil millones centrado en la inteligencia artificial