OpenAI ha recentemente rivelato che il suo consiglio di amministrazione ha l'autorit\u00e0 di scavalcare le decisioni prese dall'amministratore delegato in merito al rilascio di nuovi modelli di IA, anche se questi sono stati ritenuti sicuri dalla leadership dell'azienda.\u00a0<\/b><\/p>\n
Queste informazioni sono state dettagliate in una serie di linee guida presentate luned\u00ec, che delineano la strategia dell'azienda per affrontare i potenziali rischi estremi posti dai suoi sistemi di intelligenza artificiale pi\u00f9 avanzati.\u00a0<\/span><\/p>\n Anche se il team dirigenziale pu\u00f2 decidere inizialmente di rilasciare un nuovo sistema di intelligenza artificiale, il consiglio di amministrazione conserva il diritto di annullare tali decisioni.<\/span><\/p>\n Sam Altman, l'amministratore delegato di OpenAI, \u00e8 stato licenziato dal suo incarico e drammaticamente reintegrato, evidenziando una curiosa dinamica di potere tra i direttori e i dirigenti dell'azienda.\u00a0<\/span><\/p>\n In seguito, molti hanno ipotizzato che Altman non avesse prestato la giusta attenzione alla sicurezza dei modelli, che fosse stato \"travolto dal suo lavoro\", per cos\u00ec dire. I rapporti successivi hanno messo in dubbio questa ipotesi, compreso il presidente di Microsoft Brad Smith, <\/span>che ha dichiarato di ritenere improbabile<\/span><\/a> che la sicurezza fosse il motivo principale.\u00a0<\/span><\/p>\n C'era anche la questione non secondaria che OpenAI aveva ricevuto un'enorme valutazione e i suoi dipendenti volevano incassare le loro stock option.\u00a0<\/span><\/p>\n Business Insider ha affermato che<\/span><\/a> che i dipendenti di OpenAI hanno usato la loro lettera aperta in cui dichiaravano che avrebbero lasciato l'azienda se Altman non fosse stato reintegrato come merce di scambio. Un dipendente ha persino detto che era un cattivo amministratore delegato, anche se queste notizie non sono confermate.\u00a0<\/span><\/p>\n OpenAI ha ora agito per placare i timori di non prendere l'IA in modo sicuro, pubblicando innanzitutto i risultati del suo nuovo progetto \"<\/span>esperimento di \"superallineamento<\/span><\/a>\u00a0e anche aumentando i \"poteri\" della loro squadra di \"preparazione\".\u00a0<\/span><\/p>\n OpenAI <\/span>squadra di preparazione<\/span><\/a>, guidato da Aleksander Madry, attualmente in congedo dal MIT, valuta continuamente i sistemi di intelligenza artificiale in varie categorie di rischio, tra cui la sicurezza informatica e le minacce legate ai settori chimico, nucleare e biologico.\u00a0<\/span><\/p>\n Questo team ha lo scopo di identificare e mitigare eventuali pericoli significativi associati alla tecnologia. Secondo le linee guida, i rischi classificati come \"catastrofici\" potrebbero causare danni economici sostanziali o gravi danni a molte persone.<\/span><\/p>\n Madry ha spiegato il processo, affermando: \"L'intelligenza artificiale non \u00e8 qualcosa che ci accade e che pu\u00f2 essere buona o cattiva. \u00c8 qualcosa che stiamo plasmando\". Ha inoltre espresso la speranza che altre aziende adottino le linee guida di OpenAI per la valutazione dei rischi.\u00a0<\/span><\/p>\n Il suo team, costituito in ottobre come parte di tre gruppi separati che supervisionano la sicurezza dell'IA presso OpenAI, valuter\u00e0 i modelli di IA non rilasciati e classificher\u00e0 i rischi percepiti come \"bassi\", \"medi\", \"alti\" o \"critici\". Solo i modelli classificati come \"medi\" o \"bassi\" saranno presi in considerazione per il rilascio.<\/span><\/p>\n Stiamo sistematizzando il nostro modo di pensare alla sicurezza con il nostro Preparedness Framework, un documento vivo (attualmente in versione beta) che illustra in dettaglio gli investimenti tecnici e operativi che stiamo adottando per guidare la sicurezza dello sviluppo dei nostri modelli di frontiera.https:\/\/t.co\/vWvvmR9tpP<\/a><\/p>\n - OpenAI (@OpenAI) 18 dicembre 2023<\/a><\/p><\/blockquote>\n\n