OpenAI prépare un sprint de sécurité interne avec Cathedral Systems. Les chercheurs du partenaire travailleront avec ses propres équipes afin d’utiliser des modèles d’IA pour sonder et renforcer les systèmes de l’entreprise. OpenAI indique que Cathedral apportera des compétences et des approches distinctes pour repérer les failles de ses défenses.
L’entreprise met également à jour son programme Security Bug Bounty, notamment en multipliant par plus de quatre les récompenses pour les découvertes critiques. OpenAI affirme vouloir que les chercheurs remettent en question ses hypothèses et contribuent à améliorer ses systèmes ainsi que ses méthodes de défense.
Ce sprint prolonge un effort antérieur au cours duquel OpenAI avait affecté 25 % de ses ingénieurs produits à la recherche et à la correction des failles de ses systèmes. Selon l’entreprise, les ingénieurs ont utilisé Codex pour examiner les découvertes, reproduire les vulnérabilités dans des environnements isolés et préparer des correctifs en vue de leur examen.
OpenAI affirme prévoir d’utiliser ses modèles les plus performants pour renforcer ses propres défenses et les mettre à la disposition des clients de Daybreak. L’entreprise s’est également engagée à offrir 1 milliard de dollars d’accès subventionné sur six mois aux défenseurs de première ligne qui protègent les services essentiels et les infrastructures numériques. Elle indique qu’elle partagera son architecture, les enseignements tirés du sprint précédent et un plan directeur pour soutenir les défenseurs de la cybersécurité dans l’ensemble des secteurs privé et public.
Sources: OpenAI News.