OpenAI, creatori di ChatGPT, si impegnano a sviluppare sistemi di intelligenza artificiale sicuri

OpenAI ha pubblicato un nuovo post sul blog impegnandosi a sviluppare un'intelligenza artificiale (AI) sicura e ampiamente vantaggiosa.

ChatGPT, alimentato dall'ultimo modello di OpenAI, GPT-4, può migliorare la produttività, potenziare la creatività e fornire esperienze di apprendimento su misura.

Tuttavia, OpenAI riconosce che gli strumenti di intelligenza artificiale presentano rischi intrinseci che devono essere affrontati attraverso misure di sicurezza e un'implementazione responsabile.

Ecco cosa sta facendo l'azienda per mitigare tali rischi.

Garantire la sicurezza nei sistemi di intelligenza artificiale

OpenAI conduce test approfonditi, cerca una guida esterna da esperti e perfeziona i suoi modelli di intelligenza artificiale con il feedback umano prima di rilasciare nuovi sistemi.

Il rilascio di GPT-4, ad esempio, è stato preceduto da oltre sei mesi di test per garantirne la sicurezza e l'allineamento con le esigenze degli utenti.

OpenAI ritiene che i solidi sistemi di IA debbano essere sottoposti a rigorose valutazioni di sicurezza e sostiene la necessità di una regolamentazione.

Imparare dall'uso nel mondo reale

L'uso nel mondo reale è una componente fondamentale nello sviluppo di sistemi di intelligenza artificiale sicuri. Rilasciando con cautela nuovi modelli a una base di utenti in graduale espansione, OpenAI può apportare miglioramenti che risolvono problemi imprevisti.

Offrendo modelli di intelligenza artificiale tramite la sua API e il suo sito Web, OpenAI può monitorare l'uso improprio, intraprendere azioni appropriate e sviluppare politiche sfumate per bilanciare il rischio.

Protezione dei bambini e rispetto della privacy

OpenAI dà la priorità alla protezione dei bambini richiedendo la verifica dell'età e vietando l'utilizzo della sua tecnologia per generare contenuti dannosi.

La privacy è un altro aspetto essenziale del lavoro di OpenAI. L'organizzazione utilizza i dati per rendere i suoi modelli più utili proteggendo gli utenti.

Inoltre, OpenAI rimuove le informazioni personali dai set di dati di addestramento e perfeziona i modelli per rifiutare le richieste di informazioni personali.

OpenAI risponderà alle richieste di cancellazione delle informazioni personali dai propri sistemi.

Miglioramento della precisione fattuale

L'accuratezza fattuale è un obiettivo significativo per OpenAI. GPT-4 ha il 40% di probabilità in più di produrre contenuti accurati rispetto al suo predecessore, GPT-3.5.

L'organizzazione si impegna a educare gli utenti sui limiti degli strumenti di intelligenza artificiale e sulla possibilità di imprecisioni.

Ricerca e impegno continui

OpenAI crede nel dedicare tempo e risorse alla ricerca di mitigazioni efficaci e tecniche di allineamento.

Tuttavia, non è qualcosa che può fare da solo. Affrontare i problemi di sicurezza richiede un ampio dibattito, sperimentazione e impegno tra le parti interessate.

OpenAI rimane impegnata a promuovere la collaborazione e il dialogo aperto per creare un ecosistema di IA sicuro.

Critiche sui rischi esistenziali

Nonostante l'impegno di OpenAI nel garantire la sicurezza e gli ampi vantaggi dei suoi sistemi di intelligenza artificiale, il suo post sul blog ha suscitato critiche sui social media.

Gli utenti di Twitter hanno espresso disappunto, affermando che OpenAI non riesce ad affrontare i rischi esistenziali associati allo sviluppo dell'IA.

Un utente di Twitter ha espresso la propria delusione, accusando OpenAI di tradire la sua missione fondante e di concentrarsi su una commercializzazione sconsiderata.

L'utente suggerisce che l'approccio di OpenAI alla sicurezza è superficiale e più interessato a placare i critici che ad affrontare i veri rischi esistenziali.

Questo è amaramente deludente, vacuo, allestimento delle vetrine delle pubbliche relazioni.

Non menzioni nemmeno i rischi esistenziali dell'IA che sono la preoccupazione centrale di molti cittadini, tecnologi, ricercatori di intelligenza artificiale e leader del settore dell'IA, incluso il tuo CEO @sama.@OpenAI sta tradendo il suo ...

— Geoffrey Miller (@primalpoly) 5 aprile 2023

Un altro utente ha espresso insoddisfazione per l'annuncio, sostenendo che sorvola sui problemi reali e rimane vago. L'utente sottolinea inoltre che il rapporto ignora le questioni etiche critiche e i rischi legati all'autoconsapevolezza dell'IA, il che implica che l'approccio di OpenAI ai problemi di sicurezza è inadeguato.

Come fan di GPT-4, sono deluso dal tuo articolo.

Sorvola sui problemi reali, rimane sul vago e ignora le questioni etiche cruciali e i rischi legati all'autoconsapevolezza dell'IA.

Apprezzo l'innovazione, ma questo non è l'approccio giusto per affrontare i problemi di sicurezza.

— FrankyLabs (@FrankyLabs) 5 aprile 2023

La critica sottolinea le preoccupazioni più ampie e il dibattito in corso sui rischi esistenziali posti dallo sviluppo dell'IA.

Mentre l'annuncio di OpenAI delinea il suo impegno per la sicurezza, la privacy e l'accuratezza, è essenziale riconoscere la necessità di ulteriori discussioni per affrontare preoccupazioni più significative.

Immagine di presentazione: TY Lim/Shutterstock

Fonte: OpenAI