«Vi sono due scenari in cui lo sviluppo dell’intelligenza artificiale potrebbe imboccare una strada estremamente pericolosa, e dobbiamo evitarli.

Il primo è che potremmo perdere il controllo sul futuro, cedendolo all’IA. Questo è inaccettabile. Siamo incondizionatamente dalla parte dell’umanità e l’intelligenza artificiale deve sempre rimanere al servizio delle persone. Per garantire che ciò avvenga, abbiamo bisogno di strumenti che assicurino che le metodologie di sicurezza e l’allineamento dell’IA agli obiettivi umani si evolvano più rapidamente delle capacità delle modelli stessi.

Il secondo è che potremmo ritrovarci in un mondo caratterizzato da un’eccessiva concentrazione di potere. Se un’intelligenza artificiale straordinariamente potente dovesse finire nelle mani di una singola persona o di una singola azienda, e venire utilizzata per imporre a tutti gli altri la propria visione del mondo, le conseguenze potrebbero rivelarsi fortemente distopiche.

Per evitare queste due minacce è necessario trovare un equilibrio sottile. Ad esempio, un potere eccessivo potrebbe finire nelle mani di un singolo Paese. Un altro esempio è la concentrazione sproporzionata di potere nelle mani di un singolo laboratorio».