«Stanno giocando d'azzardo con le nostre vite». «Stanno giocando d'azzardo con le nostre vite».Sono le parole di Jacob Coxon, ricercatore di 27 anni che, dopo aver lavorato negli ultimi tre anni sul pre-training dei modelli di intelligenza artificiale prima in OpenAI e poi in Anthropic, ha annunciato le proprie dimissioni.
Coxon accusa entrambe le aziende di correre verso una «superintelligenza auto-migliorante» senza agire, a suo giudizio, in maniera sufficientemente responsabile. Nel suo messaggio sostiene che i futuri sistemi potrebbero raggiungere capacità sovrumane e afferma che, all'interno delle aziende che stanno sviluppando queste tecnologie, esistono forti preoccupazioni sulle possibili conseguenze di questa corsa.A rendere ancora più significativo il suo intervento è stata la risposta di Evan Hubinger, responsabile dell'Alignment Science di Anthropic, che ha dichiarato di condividere la preoccupazione e di stimare personalmente superiore al 10% il rischio che l'IA possa portare all'estinzione dell'umanità entro il prossimo decennio.
Quando simili avvertimenti arrivano dalle stesse persone che lavorano allo sviluppo e alla sicurezza di questi sistemi, credo che ascoltarli sia quantomeno necessario.
Financial Times – Anthropic researcher quits over AI labs “gambling with our lives” The Washington Post – Anthropic researcher resigns, warning of reckless race toward superintelligence#vannifrajese #giovannifrajese #piccolelucinelbuio #frajeseofficial #intelligenzaartificiale #AI #Anthropic #OpenAI #tecnologia #superintelligenza
Segui l'unico canale ufficiale autorizzato su Telegram
Giovanni Frajese (Canale Ufficiale) - Piccole …