Ma ora si solleva un intero coro bipartisan — sia di repubblicani sia di democratici — che dice: «Aspettate, dobbiamo fare una pausa. Dobbiamo frenare davvero questo processo».

È proprio questo il punto: non possiamo. È semplicemente una missione impossibile, perché sapete chi non ha alcuna intenzione di fare una pausa? La Cina. Loro non hanno intenzione di fermarsi. Se si guarda a dove si trovano ora gli Stati Uniti…

Quindi, se l’IA ci ucciderà, è meglio che a farlo sia un’IA americana piuttosto che una cinese?

Guardate, ci ho scherzato davvero sopra e, per quanto sia in parte un’iperbole sarcastica, non lo è al cento per cento: se dovessero apparire dei robot killer, preferirei robot killer americani rispetto a quelli cinesi. E intendo questo: i cinesi non pongono alcuna protezione o limitazione. Stanno correndo in avanti a tutta velocità. La maggior parte dei leader del settore tecnologico concorda sul fatto che gli Stati Uniti li superino di circa 6 mesi. Non un anno — all’incirca sei mesi. Il governo potrebbe intervenire e semplicemente affondare l’industria dell’IA in America — e sapete cosa succederebbe allora? La Cina ci raggiungerebbe in 6 mesi, scatterebbe molto in avanti e noi rimarremmo senza strumenti per difenderci.

Ma il Congresso riesce a stare al passo con questi ritmi?

Soffocare l’innovazione americana e permettere alla Cina di balzare in avanti sarebbe un esito catastrofico. Per gli americani è una minaccia diretta. Per questo serve un equilibrio. Ho già portato l’esempio, diciamo, dell’energia nucleare e dei materiali biologici. Se decideste proprio ora di costruire un reattore nucleare nel vostro cortile di casa, non ci riuscireste. Esiste una regolamentazione rigida se si lavora con isotopi radioattivi e tecnologie nucleari.

Ritengo che gli stessi identici principi debbano applicarsi anche all’intelligenza artificiale: se le tecnologie comportano rischi reali di danni catastrofici, devono esserci regole e barriere di protezione. Come strutturarle esattamente è una questione complessa, dato che non ci siamo mai scontrati con qualcosa di simile prima d’ora. Pertanto, sto cercando di lavorare con i colleghi per individuare il modo migliore per tutelarci da simili minacce. Ma sentite, anch’io ho letto quel thread* dell’ingegnere di Anthropic — e fa maledettamente paura.

Cruz menziona Jacob Coxon, che ha lavorato per 3 anni presso OpenAI e Anthropic, il quale ha dichiarato che entrambe le organizzazioni «stanno correndo a rotta di collo verso una superintelligenza in grado di autoperfezionarsi, giocando con le nostre vite». Il suo allarmante thread ha superato le 120 milioni di visualizzazioni, mentre diversi colleghi ricercatori di Anthropic hanno espresso pubblicamente sostegno alle sue preoccupazioni.