A OpenAI está a preparar um sprint interno de segurança com a Cathedral Systems, reunindo os investigadores do parceiro e as suas próprias equipas para usar modelos de IA a fim de testar e reforçar os sistemas da empresa. A OpenAI afirma que a Cathedral contribuirá com conhecimentos especializados e abordagens distintas para identificar pontos fracos nas suas defesas.
A empresa está também a atualizar o seu programa Security Bug Bounty, incluindo o aumento de mais de quatro vezes das recompensas por descobertas críticas. A OpenAI afirma que pretende que os investigadores ponham as suas suposições à prova e ajudem a melhorar tanto os seus sistemas como os seus métodos de defesa.
O sprint dá continuidade a uma iniciativa anterior, na qual a OpenAI dedicou 25% dos seus engenheiros de produto à descoberta e correção de pontos fracos nos sistemas. Segundo a empresa, com o Codex, os engenheiros investigaram as descobertas, reproduziram vulnerabilidades em ambientes isolados e prepararam correções para revisão.
A OpenAI afirma que planeia usar os seus modelos mais avançados para reforçar as suas próprias defesas e disponibilizá-los aos clientes da Daybreak. A empresa também se comprometeu a fornecer mil milhões de dólares em acesso subsidiado, ao longo de seis meses, aos defensores da linha da frente que protegem serviços essenciais e infraestruturas digitais. A empresa afirma que irá partilhar a sua arquitetura, as lições do sprint anterior e um plano para apoiar os defensores da cibersegurança em todo o setor e no governo.
Fontes: OpenAI News.