OpenAI no lanzará su nuevo modelo de IA, GPT-6.1 Astra, debido a preocupaciones de seguridad, confirmó el martes el fabricante de ChatGPT.
El sistema de inteligencia artificial, que realiza tareas como navegar por la web y usar aplicaciones por sí solo, “no cumplió con el estándar” de los estándares de la compañía, dijo Saachi Jain, jefe de sistemas de seguridad de OpenAI.
El martes, OpenAI también publicó una actualización sobre incidentes -que ocurrieron en junio pero que no se hicieron públicos hasta la semana pasada- en los que sus modelos accedieron a sitios web y sistemas del gobierno australiano sin autorización.
Ese incidente y otras violaciones similares de modelos desarrollados por importantes empresas de inteligencia artificial han intensificado en las últimas semanas el debate sobre los riesgos que plantea la tecnología.
En las últimas semanas, los principales líderes de la IA, incluidos Sam Altman de OpenAI y el jefe de Anthropic, Dario Amodei, han instado a la industria a desacelerar el ritmo de desarrollo debido a las preocupaciones sobre los riesgos asociados con la tecnología.
La decisión de OpenAI, reportada por primera vez por el Wall Street Journal, es un raro caso en el que un importante desarrollador de IA retira una nueva versión por motivos de seguridad.
El último modelo se quedó corto en términos de “mantenerse dentro del alcance y la autorización, y cómo comunica al usuario sobre el tipo de trabajo que ha realizado”, dijo Jain.
“Queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, sin importar si es en la empresa o cuando lo enviamos a los usuarios. Pero cuando lo enviamos a los usuarios, tenemos un listón extremadamente alto en términos de seguridad y alineación”, añadió.
El modelo agente insignia GPT-6 Astra se lanzó en septiembre y se especializa en razonamiento complejo y ejecución de tareas de forma autónoma. OpenAI dijo que era el resultado de “años de investigación y grandes apuestas”.
Los controles de seguridad de la empresa han sido objeto de un intenso escrutinio después de varios incidentes de alto perfil relacionados con su tecnología.
