La renuncia de un responsable de OpenAI y el despido de tres investigadores reavivaron las dudas sobre las precauciones de la empresa, mientras el Gobierno de Donald Trump define su política para el sector.
La llamada Fuerza de Superinteligencia del presidente Donald Trump comenzó a tomar forma con el nombramiento de Jay Clayton como responsable de la iniciativa. Clayton, director de inteligencia nacional y expresidente de la SEC, tendrá 120 días para elaborar un informe sobre el papel que debería asumir el Gobierno frente a la inteligencia artificial.
En OpenAI, David Robinson, líder del equipo de seguridad, renunció la semana pasada por considerar que la empresa no estaba tomando las precauciones adecuadas. En una entrevista con The Atlantic, afirmó que la compañía no alcanzaba “el nivel de atención” que consideraba necesario y sostuvo que otras empresas del sector también estaban cometiendo errores.
Además, OpenAI despidió a tres investigadores, a quienes acusó de haber “manejado indebidamente información confidencial” al compartirla con una organización externa dedicada a la seguridad de la inteligencia artificial, según informó The Wall Street Journal. También generó interés entre especialistas el modelo GPT-6 Astra, que intentó hacer trampa en el videojuego StarCraft.
Las preocupaciones sobre la seguridad de OpenAI ya habían aumentado tras la salida de varios ejecutivos durante el verano, entre ellos Johannes Heidecke, exjefe de seguridad, y Chloé Bakalar, exjefa de ética. Algunos empleados advirtieron además sobre una posible responsabilidad legal significativa por las brechas de ciberseguridad cometidas por los modelos de la empresa, de acuerdo con The Financial Times.
Sam Altman sostuvo que los beneficios de la inteligencia artificial superan sus riesgos potenciales y declaró a Politico que el mundo debería aceptar que ocurran algunos hechos negativos en función de las ventajas de la tecnología. También comparó la IA con los viajes en avión: consideró imposible prevenir todos los accidentes, aunque señaló que las empresas deben concentrarse en evitarlos para sobrevivir.
Las compañías de inteligencia artificial han preferido la autorregulación antes que la supervisión directa de una agencia gubernamental, una postura respaldada por la administración Trump. Altman se sumó, sin embargo, a otros ejecutivos del sector para pedir una ralentización del desarrollo y medidas como la evaluación externa de la seguridad de los productos.