I pesi aperti non sono software libero

Cosa si scarica, quando si scarica un modello

Quello che si scarica sono i pesi: una lunghissima lista di numeri, il risultato dell'addestramento. Con i pesi si può eseguire il modello sulla propria macchina, misurarlo, adattarlo, integrarlo in un prodotto.

Quello che quasi mai si scarica è il resto: i dati su cui è stato addestrato, il codice che ha gestito l'addestramento, le scelte fatte durante il processo, i dati usati per allinearne il comportamento. Nel software sarebbe come ricevere il programma compilato invece del sorgente. Utile, spesso sufficiente, ma non è la stessa cosa e non dà le stesse libertà.

La conseguenza pratica: non potete rifarlo. Potete usarlo e ritoccarlo, non potete ricostruirlo né verificare da dove viene quello che sa. Se il modello ha imparato qualcosa che non doveva imparare, non avete modo di scoprirlo guardando dentro.

Le licenze, che è la parte che conta

Qui la parola open si sfrangia davvero. Circolano almeno quattro famiglie di condizioni, e vanno lette prima di progettare, non dopo.

• Licenze davvero permissive. Uso commerciale libero, poche condizioni, nessuna soglia. È il caso più vicino a quello che si intende con open source nel software.
• Licenze con limiti d'uso. Il modello si può usare, ma non per certe categorie di applicazioni, elencate in un allegato. È una restrizione legittima e ragionevole, e rende comunque il modello non conforme alla definizione classica di software libero, che non ammette limitazioni sul campo di applicazione.
• Licenze con soglie. Libero fino a una certa dimensione dell'utilizzatore o del servizio, sopra quella soglia serve un accordo. Per una piccola impresa non cambia nulla, ma il vincolo va conosciuto: se il prodotto funziona, la soglia arriva.
• Licenze sui risultati. Alcune condizioni riguardano cosa potete fare con quello che il modello produce, per esempio se potete usarlo per addestrare un altro modello. È il punto più facile da violare senza accorgersene.

Nessuna di queste è disonesta. Il problema è che vengono chiamate tutte allo stesso modo, e chi legge la parola open assume la prima famiglia mentre magari sta usando la quarta.

Perché la parola è diventata ambigua

Perché è utile che lo sia. Aperto è una parola che comunica bene: suona a fiducia, verificabilità, comunità. Chi pubblica un modello con qualche restrizione ha tutto l'interesse a usarla comunque, e chi lo adotta ha l'interesse opposto solo se qualcuno gli fa notare la differenza.

C'è anche una ragione meno cinica. Nel software la distinzione fra sorgente e binario è netta. In un modello non lo è: fra i pesi e i dati di addestramento c'è una zona grigia enorme che le vecchie categorie non descrivono bene. Le definizioni si stanno assestando adesso, e nel frattempo la parola resta elastica.

Cosa cambia davvero, per chi costruisce

Tre cose, tutte pratiche.

• Potete farlo girare dove volete. È la libertà più concreta e spesso l'unica che serve: i dati non escono dalla vostra rete, il costo diventa il costo della macchina, nessuno può cambiarvi le condizioni a metà anno. Per un ospedale, uno studio legale, un'azienda con contratti che vietano l'uscita dei dati, questa sola libertà giustifica la scelta.
• Potete adattarlo. Su un modello con i pesi aperti si possono fare interventi che su un servizio chiuso non sono possibili, e il risultato resta vostro.
• Non potete verificarlo fino in fondo. Non sapete cosa c'è nei dati di addestramento, quindi non potete escludere del tutto contenuti problematici né dimostrare la provenienza di quello che il modello produce. Chi vi vende l'apertura come garanzia di trasparenza vi sta vendendo qualcosa che i pesi aperti, da soli, non danno.

La posizione

Consigliamo modelli con i pesi aperti tutte le volte in cui la ragione è operativa: i dati devono restare in casa, il costo deve essere prevedibile, il comportamento deve restare stabile nel tempo anche quando il resto del mercato cambia. Sono ragioni ottime e bastano da sole.

Non li consigliamo per ragioni ideologiche, perché l'ideologia in questo caso poggia su un equivoco. Un modello con i pesi aperti non è un bene comune: è un artefatto costoso, prodotto da un'azienda, distribuito con le condizioni che quell'azienda ha scelto, e revocabile per le versioni future.

La domanda giusta non è se un modello è aperto. È: cosa mi permette di fare questa licenza, cosa mi impedisce, e cosa succede alla versione che sto usando se domani cambiano idea. Le prime due risposte stanno in un documento che si legge in venti minuti. La terza è la ragione per cui, se un modello aperto vi serve davvero, il file dei pesi lo tenete anche voi, e non solo il collegamento per scaricarlo.