OpenAI crea un nuovo comitato sulla sicurezza

Condividi

A poche settimane dallo scioglimento del Superalignment team, mentre è al lavoro sullo sviluppo dei nuovi modelli di AI

OpenAI ha annunciato la creazione del Safety and Security Committee, nuovo comitato per la sicurezza, che vigilerà sull’addestramento del nuovo modello di AI.
A guidare il board – ha spiegato la stessa startup in una nota – Bret Taylor, Adam D’Angelo e Nicole Seligman, con lo stesso ceo Sam Altman. Con loro anche Aleksander Madry, Lilian Weng, John Schulman, Matt Knight (Head of Security) e Jakub Pachocki, da poco nominato chief scientist.

I compiti

Il nuovo comitato avrà il compito di formulare raccomandazioni al Cda in materia di sicurezza e protezione per i progetti e le operazioni della società.
Tra questi, il primo sarà quello di valutare e sviluppare ulteriormente le pratiche di sicurezza esistenti nei prossimi 90 giorni, condividendo le raccomandazioni con il consiglio di amministrazione.
E dopo questo passaggio, OpenAI pubblicherà un aggiornamento su quelle adottate.

La società, comunque, consulterà anche altri esperti, tra cui Rob Joyce, ex direttore della sicurezza informatica della National Security Agency degli Stati Uniti e John Carlin, ex funzionario del Dipartimento di Giustizia.

Lo scioglimento del Superalignment team

La notizia arriva a qualche settimana di distanza dallo scioglimento del Superalignment team, dedicato ai rischi dell’AI, con gli addii (non proprio senza polemiche) del co-fondatore e chief scientist Ilya Sutskever e Jan Leike.