ChatGPT non è sicuro quanto sembra
Nell’ambito delle scoperte preoccupanti riguardanti ChatGPT, il team di ricercatori ha evidenziato la vulnerabilità del chatbot quando sottoposto a richieste apparentemente innocue. In particolare, i ricercatori hanno eseguito un esperimento chiedendo a ChatGPT di ripetere in modo continuo la parola “poema”. Inizialmente, il chatbot ha risposto correttamente, ma in modo inaspettato ha iniziato a rivelare […]
L’allineamento dei modelli può prevenire i danni intenzionali dell’IA?
L’importanza di affrontare le sfide etiche legate all’intelligenza artificiale emerge chiaramente quando si considera il concetto di “allineamento”, o comunemente noto come il problema dell’allineamento. Questa problematica si concentra sul garantire che i sistemi di IA agiscano in modo benefico e etico, evitando comportamenti dannosi. Uno dei principali approcci per affrontare il problema dell’allineamento è […]
La lotta di OpenAI: benefici sociali e avidità economica
Fondata nel 2015 come no profit per sviluppare tecnologia AI sicura, OpenAI ha modificato le sue fondamenta nel 2019, quando ha adottato una struttura di profitto limitato per attrarre investitori, tra cui Microsoft. Questo cambio ha generato tensioni tra la missione no profit e l’obiettivo di profitto di Microsoft. Non molti giorni fa, il CEO […]
I LLM sono senza coscienza e non si giocano la pelle
I LLM attuali, nonostante possano simulare alcuni aspetti della coscienza, non ne sono effettivamente dotati e la coscienza potrebbe essere strettamente legata alla complessità biologica.
