Aziende come Winston AI, Content at Scale e Turnitin stanno iniziando ad offrire servizi con cui gli insegnanti possono controllare il lavoro dei loro studenti e sapere con quanta probabilità il testo è scritto da un umano o da una macchina.
Il problema è che è relativamente semplice ingannare questi strumenti ed evitare di essere scoperti.
La maggior parte di questi software segue la logica dei “watermarks”, segni distintivi chiaramente rilevabili all’interno dei testi generati dall’IA (tra cui, ad esempio, la ripetizione dell’articolo “the” nei testi in inglese) e cercati da questi algoritmi antiplagio.
Un team di ricerca ha scoperto che tutti gli strumenti testati hanno faticato a classificare un testo generato da ChatGPT che era stato leggermente parafrasato dagli esseri umani, suggerendo che tutto ciò che gli studenti devono fare è adattare i saggi generati dall’IA per superare i rilevatori.
“Se i sistemi di rilevamento automatico devono essere impiegati in ambito educativo, è fondamentale capire il loro tasso di falsi positivi, poiché accusare erroneamente uno studente di aver imbrogliato può avere conseguenze disastrose per la sua carriera accademica““Anche il tasso di falsi negativi è importante, perché se troppi testi generati dall’IA passano per scritti da esseri umani, il sistema di rilevamento non è utile”. Ma, forse, il punto è un altro:Continua a leggere:“Questo tipo di studi evidenzia quanto siano obsoleti gli attuali metodi di valutazione del lavoro degli studenti da parte delle università”
Estratto da:
AI-text detection tools are really easy to fool- MIT Technology Review
