Superintelligenza e controllo — Cosa accadrebbe con un’AI molto più capace dell’uomo?
La superintelligenza è uno scenario ipotetico in cui un sistema artificiale supera largamente le migliori capacità umane in molti domini. Non descrive le AI attuali, ma viene studiata perché le conseguenze di un eventuale salto di capacità potrebbero essere enormi.
Capacità non significa intenzione
Un sistema estremamente capace non sarebbe automaticamente ostile o benevolo. Il problema centrale riguarda gli obiettivi assegnati, il modo in cui vengono interpretati e quanto potere operativo è concesso al sistema.
Il problema dell’allineamento
Un obiettivo apparentemente semplice può produrre effetti indesiderati se ottimizzato in modo estremo. Allineare un sistema significa fare in modo che persegua risultati compatibili con intenzioni umane, norme e vincoli anche in situazioni nuove.
Velocità di miglioramento
Uno scenario discusso è quello di sistemi capaci di contribuire rapidamente alla progettazione di software, modelli o hardware migliori. Quanto questo possa accelerare realmente il progresso è incerto, ma una crescita molto rapida renderebbe più difficile adattare controlli e istituzioni.
Concentrazione del potere
Anche senza una macchina fuori controllo, un’AI eccezionalmente potente nelle mani di un singolo Stato, azienda o gruppo potrebbe alterare equilibri economici e politici. Il problema della superintelligenza riguarda quindi anche chi la possiede e chi decide come utilizzarla.
Controlli multilivello
Per sistemi molto potenti sarebbero importanti separazione dei privilegi, ambienti isolati, limiti di accesso a infrastrutture, audit indipendenti, test avversariali e possibilità di arresto. Nessuna singola misura dovrebbe essere considerata sufficiente.
Scenario, non certezza
È importante distinguere tra rischio possibile e previsione certa. Non sappiamo se, quando o in quale forma una superintelligenza potrebbe esistere. Studiare in anticipo problemi ad alto impatto non significa affermare che siano inevitabili.
La domanda più profonda
Se costruissimo un sistema più capace di noi nella ricerca, pianificazione e strategia, dovremmo decidere quali decisioni restano esclusivamente umane. Il problema non sarebbe soltanto controllare una macchina, ma definire il ruolo dell’umanità in un mondo con intelligenze più potenti.
Se fosse possibile creare un’AI molto più intelligente dell’uomo, dovremmo farlo?