A OpenAI anunciou medidas de segurança ampliadas para o ChatGPT, com foco na prevenção da violência e na redução do acesso de adolescentes a informações potencialmente prejudiciais sobre armas. A empresa afirma que as mudanças incluem intervenções mais precoces, restrições mais rigorosas e um novo relatório público sobre a segurança da comunidade.
A OpenAI informou ter feito mais de 200 encaminhamentos às autoridades policiais durante o terceiro trimestre de 2026, relacionados a ameaças iminentes de violência. A empresa disse que conta com especialistas em saúde mental e comportamento ao avaliar casos difíceis e considera seu trabalho complementar aos papéis das autoridades policiais, das famílias, dos profissionais e dos formuladores de políticas.
O Relatório de Segurança da Comunidade planejado abordará a prevenção da violência e outras questões de segurança comunitária, incluindo como a OpenAI treina seus sistemas para detectar, investigar e responder a atividades preocupantes. Espera-se que o relatório inclua exemplos anonimizados, informações sobre novas medidas de mitigação e mudanças nas políticas, além de dados relevantes sobre a eficácia das salvaguardas.
O primeiro relatório está previsto para o início de 2027 e abrangerá o segundo semestre de 2026. A OpenAI planeja publicar atualizações a cada seis meses.
A empresa também está tornando mais rigorosa a forma como o ChatGPT lida com perguntas sobre ataques em massa ocorridos no passado e seus autores. O modelo fornecerá informações menos detalhadas sobre reconstruções desses ataques, incluindo as armas e os equipamentos envolvidos, como foram obtidos e comparações sobre a dimensão dos danos que poderiam aumentar a notoriedade de um atacante. As restrições serão aplicadas independentemente da idade do usuário ou do motivo declarado para a pergunta.
A OpenAI afirmou que o ChatGPT continuará a atender a solicitações voltadas para a compreensão dos efeitos dos ataques, o reconhecimento de sinais de alerta e a prevenção de futuras violências. A empresa também está desenvolvendo sistemas que usam sinais de alerta de conversas recentes para adotar maior cautela ao responder a informações que poderiam ser mal utilizadas.
Quando uma conversa indicar que alguém pode estar fixado em violência ou em ferir gravemente outra pessoa, o ChatGPT poderá encerrar automaticamente a conversa. As contas poderão ser pausadas temporariamente se vários chats forem encerrados por esse motivo, enquanto contas identificadas como violadoras das políticas sobre atividades violentas poderão ser banidas. A OpenAI afirmou que está trabalhando com especialistas em saúde mental e prevenção da violência para aprimorar essas intervenções.
Restrições adicionais estão sendo introduzidas para usuários identificados como menores de 18 anos. O ChatGPT limitará informações práticas sobre armas e sistemas de segurança que poderiam ser usadas indevidamente para facilitar a violência, mesmo quando uma solicitação parecer inofensiva. Os adolescentes ainda poderão usar o serviço para prevenção da violência, desescalada, busca de apoio e conexão com um adulto de confiança.
A OpenAI afirmou que seu sistema de previsão de idade avalia sinais, incluindo padrões de comportamento, e foi aprimorado para analisar novos sinais ao longo do tempo. Usuários colocados incorretamente na experiência para menores de 18 anos terão um método que protege a privacidade para verificar que são adultos por meio da Persona, parceira da OpenAI na verificação de idade.
Os controles parentais permitem que os pais vinculem suas contas às contas de seus adolescentes e gerenciem as configurações de segurança. Os alertas existentes podem notificar os pais sobre preocupações graves relacionadas à automutilação e comportamentos associados a transtornos alimentares. A OpenAI afirmou que ampliou esses alertas em julho para abranger contas de adolescentes desativadas por violarem políticas sobre violência e está trabalhando em notificações para contas pausadas após discussões repetidas sobre violência.
Espera-se que as novas salvaguardas comecem a ser implementadas nas próximas semanas. A OpenAI afirmou que continuará aprimorando as medidas, monitorando o uso indevido, aplicando suas regras e recorrendo a apoio ou intervenção no mundo real quando apropriado.
Fontes: OpenAI News.