Le famiglie delle vittime della sparatoria di Tumbler Ridge portano in tribunale OpenAI e Sam Altman negli Stati Uniti. L’azienda viene accusata di non aver avvisato la polizia dopo che l’attività ChatGPT del sospetto protagonista della sparatoria era stata segnalata dai sistemi interni. I procedimenti riguardano la sparatoria avvenuta a febbraio a Tumbler Ridge, in British Columbia. Le accuse includono negligenza e azioni di risarcimento per morte causata da fatto illecito.
OpenAI accusata di non aver avvisato le autorità
Secondo i ricorrenti, OpenAI avrebbe identificato conversazioni allarmanti legate al sospetto mesi prima dell’attacco. L’azienda avrebbe valutato se inviare una segnalazione alla Royal Canadian Mounted Police, ma avrebbe poi deciso di non farlo. OpenAI ha dichiarato in seguito di aver bannato l’account a giugno per violazione delle policy d’uso.
I familiari sostengono che la risposta di OpenAI non sia stata sufficiente. I ricorrenti accusano la società di aver disattivato l’account originario senza impedire in modo efficace la creazione di un nuovo account. Le accuse riguardano anche il modello GPT-4o, che secondo i ricorrenti avrebbe avuto un design difettoso nel modo in cui rispondeva a contenuti e comportamenti pericolosi.
Altman si è scusato con la comunità canadese
Sam Altman ha pubblicato una lettera di scuse alla comunità di Tumbler Ridge. Il CEO ha dichiarato di essere profondamente dispiaciuto per la mancata segnalazione dell’account bannato a giugno. OpenAI ha anche affermato di avere una politica di tolleranza zero per l’uso dei propri strumenti in attività legate alla violenza.
Nella risposta pubblica, OpenAI ha dichiarato di aver rafforzato le salvaguardie di ChatGPT. L’azienda ha menzionato vari miglioramenti nel modo in cui il chatbot risponde a segnali di disagio, collegamenti a risorse locali di supporto, valutazione più severa delle potenziali minacce di violenza e rilevamento dei trasgressori recidivi.