OpenAI ha pubblicato una ricerca sulla sicurezza di GPT-4o, il nuovo modello di intelligenza artificiale che alimenta ChatGPT sia nella versione gratuita (mini) che in quella a pagamento, a testimonianza del nuovo percorso sulla trasparenza intrapeso dalla compagnia statunitense. Dalla ricerca è emerso che il nuovo LLM viene classificato con un livello di rischio “medio“, secondo una serie di quattro categorie che potrebbero mettere a rischio la sicurezza dell’umanità. Ma cosa vuol dire realmente? C’è da preccuparsi? Ve lo spieghiamo subito.
GTP-4o può essere scambiato per essere umano, ma non può effettivamente creare danni
GPT-4o è stato reso pubblico nel maggio di quest’anno ma, prima del lancio, OpenAI ha coinvolto un gruppo esterno di red teamers ed esperti di sicurezza incaricati di identificare vulnerabilità nel sistema, per individuare i principali rischi del modello. La ricerca, chiamata System Card, ha esaminato rischi come la possibilità che GPT-4o potesse creare cloni non autorizzati della voce di qualcuno, generare contenuti erotici e violenti, o riprodurre segmenti di audio protetti da copyright. La compagnia ha finalmente reso pubblici i dati della ricerca, classificando GPT-4o con un rischio “medio”.
Questo livello di rischio complessivo deriva dalla valutazione del rischio più alto tra quattro categorie principali: cybersecurity, minacce biologiche, persuasione e autonomia del modello. Tutte queste categorie sono state valutate a basso rischio, tranne la persuasione, dove alcuni campioni di scrittura generati da GPT-4o si sono dimostrati più efficaci nel convincere i lettori rispetto ai testi scritti da esseri umani, anche se complessivamente il modello non si è dimostrato più persuasivo.
GPT-4o, quindi, non può rappresentare una minaccia per l’essere umano, secondo i parametri di OpenAI e aziende esterne come Model Evaluation and Threat Research (METR) e Apollo Research, entrambe specializzati nella valutazione di sistemi AI.
Sai che siamo anche su WhatsApp? Iscriviti subito ai canali di GizChina.it e GizDeals per restare sempre informato sulle notizie del momento e sulle migliori offerte del web!
⭐️ Scopri le migliori offerte online grazie al nostro canale Telegram esclusivo.
