“Negli ultimi tre anni mi sono occupato di ricerca sul pre-addestramento sia in OpenAI che in Anthropic. Nessuna delle due aziende agisce in modo responsabile. Si precipitano verso una superintelligenza auto-migliorante e giocano alla roulette russa con le nostre vite. Non sottovalutate la potenza di questa tecnologia. Presto saranno sistemi superumani, capaci di violare qualsiasi cosa, rivoluzionare qualsiasi campo in una notte e acquisire potere e risorse reali. Il progresso non rallenta.
Le persone che creano l’IA credono sinceramente che possa distruggerci tutti entro la fine del decennio. Non è un trucco di marketing. Nessun’altra attività umana comporta un tale livello di pericolo.
Se ci credono davvero, perché continuano a costruirla? In OpenAI molti non hanno compreso la portata dei rischi. In Anthropic li comprendono bene, ma l’azienda si è trovata in una corsa per arrivare prima: ‘Nessun altro agirà in modo responsabile, quindi dobbiamo farlo noi, nonostante il rischio’.
Se sei un ricercatore in un laboratorio, rifletti su come si sentiranno davvero i prossimi anni. Vuoi avviare un ciclo di addestramento di una superintelligenza senza avere una chiara comprensione della sua mente? O continuare a tenere la testa bassa perché ‘tanto accadrà comunque’, invece di invocare condizioni diverse?”
