OpenAI ha annunciato misure di sicurezza ampliate per ChatGPT, incentrate sulla prevenzione della violenza e sulla riduzione dell’accesso degli adolescenti a informazioni potenzialmente dannose sulle armi. L’azienda afferma che i cambiamenti includono interventi più tempestivi, restrizioni più severe e un nuovo rapporto pubblico sulla sicurezza della comunità.
OpenAI ha riferito di aver effettuato più di 200 segnalazioni alle forze dell’ordine durante il terzo trimestre del 2026 riguardo a minacce imminenti di violenza. L’azienda ha dichiarato di affidarsi a esperti di salute mentale e di comportamento nella valutazione dei casi complessi e considera il proprio lavoro complementare ai ruoli delle forze dell’ordine, delle famiglie, dei professionisti e dei responsabili politici.
Il Rapporto sulla sicurezza della comunità previsto riguarderà la prevenzione della violenza e altre questioni relative alla sicurezza della comunità, incluso il modo in cui OpenAI addestra i propri sistemi a rilevare, indagare e rispondere ad attività preoccupanti. Dovrebbe includere esempi anonimizzati, informazioni sulle nuove misure di mitigazione e sui cambiamenti delle politiche, nonché dati pertinenti sull’efficacia delle misure di sicurezza.
Il primo rapporto è previsto per l’inizio del 2027 e riguarderà la seconda metà del 2026. OpenAI prevede di pubblicare aggiornamenti ogni sei mesi.
L’azienda sta inoltre rendendo più rigoroso il modo in cui ChatGPT gestisce le domande sui precedenti attacchi di massa e sui loro autori. Il modello fornirà informazioni meno dettagliate sulle ricostruzioni di tali attacchi, comprese le armi e le attrezzature coinvolte, il modo in cui sono state ottenute e i confronti sulla portata dei danni che potrebbero aumentare la notorietà dell’aggressore. Le restrizioni si applicheranno indipendentemente dall’età dell’utente o dal motivo dichiarato della domanda.
OpenAI ha dichiarato che ChatGPT continuerà a supportare le richieste incentrate sulla comprensione degli effetti degli attacchi, sul riconoscimento dei segnali d’allarme e sulla prevenzione di future violenze. L’azienda sta inoltre sviluppando sistemi che utilizzano i segnali d’allarme provenienti dalle conversazioni recenti per adottare maggiore cautela nel rispondere a informazioni che potrebbero essere utilizzate impropriamente.
Quando una conversazione indica che qualcuno potrebbe essere ossessionato dalla violenza o voler danneggiare gravemente un’altra persona, ChatGPT potrebbe terminare automaticamente la conversazione. Gli account potrebbero essere sospesi temporaneamente se più chat vengono terminate per questo motivo, mentre gli account che risultano violare le politiche sulle attività violente possono essere bannati. OpenAI ha dichiarato di collaborare con esperti di salute mentale e di prevenzione della violenza per migliorare questi interventi.
Vengono introdotte ulteriori restrizioni per gli utenti identificati come minori di 18 anni. ChatGPT limiterà le informazioni pratiche sulle armi e sui sistemi di sicurezza che potrebbero essere utilizzate impropriamente per facilitare la violenza, anche quando una richiesta appare innocua. Gli adolescenti potranno comunque utilizzare il servizio per la prevenzione della violenza, la de-escalation, la ricerca di supporto e il contatto con un adulto di fiducia.
OpenAI ha dichiarato che il proprio sistema di previsione dell’età valuta segnali tra cui i modelli comportamentali ed è stato potenziato per esaminare nuovi segnali nel tempo. Gli utenti assegnati erroneamente all’esperienza per minori di 18 anni avranno a disposizione un metodo rispettoso della privacy per verificare di essere adulti tramite Persona, il partner di OpenAI per la verifica dell’età.
I controlli parentali consentono ai genitori di collegare i propri account a quelli dei figli adolescenti e di gestire le impostazioni di sicurezza. Gli avvisi già esistenti possono informare i genitori di gravi preoccupazioni relative all’autolesionismo e di comportamenti associati ai disturbi alimentari. OpenAI ha dichiarato di aver ampliato questi avvisi a luglio per includere gli account di adolescenti disattivati per violazione delle politiche sulla violenza e sta lavorando a notifiche per gli account sospesi dopo discussioni ripetute sulla violenza.
È previsto che le nuove misure di sicurezza inizino a essere implementate nelle prossime settimane. OpenAI ha dichiarato che continuerà a perfezionare le misure, a monitorare gli abusi, a far rispettare le proprie regole e a ricorrere, quando appropriato, a supporto o interventi nel mondo reale.
Fonti: OpenAI News.