Qual è il costo dell’Intelligenza Artificiale? La risposta varia in base a diverse variabili, ma considerando un caso d’uso tipico in cui un utente inserisce una query e si aspetta una risposta di circa 200 parole, i costi oscillano tra 0,03 centesimi e 3,60 centesimi.
I diversi modelli hanno costi differenti e il contesto gioca un ruolo chiave. La finestra di contesto, termine raffinato per indicare la quantità di informazioni di contesto che l’utente può fornire all’IA, è un elemento cruciale.
Chiedere all’IA di redigere un breve saggio in stile Hemingway richiede più di qualche frase della sua scrittura originale. Magari caricare un terzo de “Il vecchio e il mare” permette di imprimere lo stile di Hemingway nella prosa, con l’assenza di avverbi e frasi dirette e semplici.
Documenti più estesi comportano costi maggiori. Un saggio di 500 parole richiede 8,4 centesimi con la versione più avanzata di GPT-4 e 0,07 centesimi con Llama2, il modello open-source di Facebook.
Si nota una differenza di 120 volte nei costi tra l’IA di punta e la versione gratuita. La scelta tra i due dipende dal caso d’uso e dalla disponibilità ad ottimizzare il modello.
Va sottolineato che questi prezzi non sono fissi. OpenAI ha annunciato di recente una riduzione del 3x nei costi, una tendenza destinata a proseguire grazie all’ottimizzazione di chip, algoritmi e sistemi per l’IA.
Rispetto ad altri costi infrastrutturali, queste tariffe possono avere un impatto significativo. Comprendere l’impatto sul margine lordo di questo nuovo strato di software è cruciale e probabilmente spingerà le startup a optare, nel tempo, per modelli di IA più efficienti dal punto di vista del capitale.
Leggi qui l’intero articolo: How Much Does it Cost to Use an LLM?
