OpenAI está preparando un sprint interno de seguridad con Cathedral Systems, que reunirá a los investigadores de su socio con sus propios equipos para usar modelos de IA con el fin de sondear y reforzar los sistemas de la empresa. OpenAI afirma que Cathedral aportará conocimientos especializados y enfoques distintos para identificar puntos débiles en sus defensas.
La empresa también está actualizando su programa Security Bug Bounty, lo que incluye aumentar más de cuatro veces las recompensas por hallazgos críticos. OpenAI afirma que quiere que los investigadores cuestionen sus supuestos y ayuden a mejorar tanto sus sistemas como sus métodos defensivos.
El sprint se basa en una iniciativa anterior en la que OpenAI destinó el 25 % de sus ingenieros de producto a encontrar y corregir puntos débiles de los sistemas. Según la empresa, con Codex, los ingenieros investigaron los hallazgos, reprodujeron vulnerabilidades en entornos aislados y prepararon parches para su revisión.
OpenAI afirma que planea usar sus modelos más capaces para reforzar sus propias defensas y ponerlos a disposición de los clientes de Daybreak. También se ha comprometido a ofrecer 1.000 millones de dólares en acceso subvencionado durante seis meses a los defensores de primera línea que protegen servicios esenciales e infraestructura digital. La empresa afirma que compartirá su arquitectura, las lecciones del sprint anterior y un plan para apoyar a los defensores de la ciberseguridad en la industria y el gobierno.
Fuentes: OpenAI News.