Mentre ChatGPT ha reso possibile per chiunque interagire con l’intelligenza artificiale, i meccanismi interni del famoso chatbot restano un mistero ben conservato. Tuttavia, negli ultimi mesi, sono emersi sforzi mirati a rendere l’IA più “aperta”. A maggio, un modello di Meta, denominato Llama, è stato reso disponibile al pubblico, offrendo l’accesso ai suoi “pesi”, che ne determinano il comportamento. Poi, a luglio, Meta ha introdotto un modello ancora più avanzato, Llama 2, disponibile per chiunque desiderasse scaricarlo, modificarlo e riutilizzarlo.
Tuttavia, le cose non sono esattamente come appaiono. Un gruppo di ricercatori ha scrutato la realtà dietro Llama 2 e altri modelli di IA pubblicizzati come “open”. Secondo lo studio, modelli come Llama 2, pur essendo liberamente scaricabili e modificabili, non sono regolati da una licenza open source tradizionale. Questo implica che, mentre la filosofia open source ha democratizzato l’accesso al software per decenni, potrebbe non avere lo stesso effetto sull’IA.
I ricercatori evidenziano che, sebbene esistano modelli rilasciati con licenze open source convenzionali, è complesso per questi progetti competere su un piano di parità. Ciò è attribuibile a vari fattori, come la riservatezza dei dati richiesti per addestrare modelli avanzati e il predominio delle grandi aziende sui framework software essenziali per sviluppare questi modelli.
Meredith Whittaker, una delle ricercatrici coinvolte nello studio, enfatizza che la percezione dell’ “open-source” dovrebbe influenzare le future regolamentazioni sull’IA. A suo parere, è fondamentale sviluppare alternative significative alla tecnologia controllata e dominata da grandi entità monopolistiche, specialmente quando l’IA trova applicazione in settori critici come la sanità, la finanza, l’istruzione e il mondo del lavoro.
Va notato che, se da un lato avere accesso ai pesi di una rete neurale può favorire la ricerca sui fattori di sicurezza e permettere di analizzare le performance dei modelli, dall’altro non corrisponde esattamente a ciò che tradizionalmente la comunità open-source definisce “mentalità libre”. In altre parole, un software, inclusa l’AI, è veramente open-source se e solo se ne conosciamo il codice e le fonti in ogni loro dettaglio. Pertanto, sarebbe più appropriato rinominare queste iniziative da “open-source” a “open-weights”, sottolineando questa cruciale differenza.
Fonte: https://www.wired.com/story/the-myth-of-open-source-ai/
