Jan Leike cree que OpenAI “está asumiendo una enorme responsabilidad en nombre de toda la humanidad”. Y la opinión de Leike es importante, por lo que ahora correspondía analizar esta responsabilidad y neutralizar sus riesgos. En un largo capítulo de Y por todas estas razones su marcha está justificada.
Leike fue codirectora del departamento de superalineación, junto con Ilya Sutskever, quien dejó la empresa hace unos días. Con sus subordinados, William Saunders Leopold Aschenbrenner completa la lista de bajas. OpenAI desmantela así su equipo de seguridad, que apuesta por garantizar que los potentes sistemas de inteligencia artificial respeten los valores y objetivos humanos.
Todo el mundo tecnológico estaba mirando la hazaña de San Francisco, pero por otras razones. Esta misma semana se lanzó ChatGPT-4o, la versión gratuita y mejorada de tu chatbot conversacional. Durante la presentación prestamos mucha atención a la capacidad de la asistente para coquetear con los presentadores del evento y a las referencias que el CEO de la compañía, Sam Altman, hizo a la película. Su, el momento en que un hombre se enamora de una charla conversacional. Distopía como marketing.
En este contexto se han visto produciendo una cascada de bajas. De Ilya Sutskever tiene el mayor sonada sido, por lo que fue uno de los fundadores y, hasta ahora, poco, miembro del núcleo duro de la tecnología. Sutskever escribió en la publicación X anunciando su marca y confiando en que OpenAI «construirá AGI segura y rentable» bajo su dirección actual.
Sutskever representaba el ala más conservadora de la empresa y por ello, el pasado noviembre, fue uno de los que planteó el despido repentino de Altman, a quien acusaron de excesiva temeridad. Altman recuperó su obra en una hazaña dramática que seguirá teniendo consecuencias hasta el día de hoy. Esta idea cobra fuerza ahora con la cascada de dimensiones: la compañía ha contado con una serie de ingenieros que se han comprometido a esperar antes de comercializar modelos tan avanzados. Pero la estás abandonando.
Si esperabas que OpenAI lanzara pronto ChatGPT Search, el motor de búsqueda impulsado por IA que podría tocar el sector de búsqueda, hasta ahora controlado por Google, y el esperado ChatGPT5, la nueva versión de su herramienta estrella. La empresa también ha desarrollado otros productos como el generador de imágenes Dall-E y el generador de vídeo Sora.
Con todas estas novedades en el mercado y un debate abierto sobre los riesgos de la inteligencia artificial, las reflexiones de Leike son claras y no pasan desapercibidas en su ancestral empresa. «Ha sido abandonado en la dirección de OpenAI como una de las prioridades centrales de la compañía durante bastante tiempo», explicó. “Lleguemos finalmente a un punto de ruptura”. La ingeniosa opinión de que OpenAI debería invertir más recursos en términos de seguridad, impacto social, privacidad y seguridad para su próxima generación de modelos. «Estos problemas son muy difíciles de resolver y me preocupa que no estemos en el camino correcto», escribió.
En la misma red social, Altman contestó a su extrabajador, mostrándose agradecido por el servicio prestado en estos años y asegurando estar «muy triste» por su marcha. En un mensaje que prometió ampliar en los próximos días, reconoció que las críticas del ingeniero tenían su fundamento: «Tiene razón, nos queda mucho por hacer y estamos comprometidos a cerlo».