Katja Grace, ricercatrice che studia l’intelligenza artificiale impegnata con A.I. Impacts, ospita nel suo appartamento della Bay Area cene animate da discussioni su temi cruciali, come l’arrivo dell’IA generale e il rischio di una catastrofe umana. Questi dibattiti offrono uno spunto del complesso panorama di opinioni e incertezze inerenti all’impatto dell’AI di alcuni californiani.
Tra gli studiosi citati nel corso delle cene c’è Eliezer Yudkowsky, da transumanista ottimista ad attivista della consapevolezza dei rischi legati all’IA, illustra la crescente consapevolezza delle minacce esistenziali. Yudkowsky, fondatore del Machine Intelligence Research Institute, ha avvertito dei pericoli legati allo sviluppo dell’IA, ma molte delle sue preoccupazioni sono rimaste inascoltate. Risuona il nome del giovane informatico Dan Hendrycks che, insieme ad altre figure centrali, sta affrontando il problema dell’IA attraverso varie iniziative, dalla consulenza ai legislatori alla promozione di regolamentazioni simili a quelle per l’uranio fissile. Anche le startup, come Anthropic, si impegnano per la sicurezza, mentre il governo statunitense ha emesso ordini esecutivi per regolamentare le aziende di IA.
Le preoccupazioni sull’IA evidenziano la necessità di garantire l’allineamento dell’IA con il benessere umano. La comunità è in costante dibattito, con gli ottimisti che abbracciano l’innovazione mentre i pessimisti puntano alla regolamentazione, in un contesto in cui gli accelerazionisti mantengono un’influenza significativa.
Leggi l’articolo completo: Among the A.I. Doomsayers su newyorker.com.
Foto di Pixabay su Pexels.
