Chi ha deciso il default?

Da dire

• «Oggi non vi racconto cosa sa fare l'intelligenza artificiale. Vi parlo della domanda che mi faccio ogni volta che un modello disegna qualcosa per me: chi l'ha deciso, questo?»
• «I modelli hanno capacità che sanno usare meglio di noi umani, come muoversi dentro grandi moli di dati, e hanno dei limiti. Oggi sapere cosa delegare ai modelli e cosa gestire in prima persona è una delle competenze fondative che chi progetta deve padroneggiare.»

Ti presenta Carlo: si parte da qui. Le prime due frasi a memoria

Da dire

• «Una domanda semplice, la stessa a due modelli.»
• Pausa, lasciare leggere i due numeri.
• «Il modello, dove non sa, tappa i buchi. Nessuno dei due ha tirato a caso: ognuno ha deciso da solo cosa conta come morto. È un default, e nessuno gliel'ha chiesto.»
• «L'esperimento è di Luciano Floridi, con Shakespeare. Io l'ho rifatto con Manzoni.»

Da dire

• «Lo stesso, nel nostro mestiere. Il modulo d'iscrizione di una palestra popolare di Roma, inventata, chiesto a tre modelli in chat. Nel prompt non c'è una parola sullo stile.»
• Pausa, lasciare guardare.
• «Verde e lime. Nero e arancio. Nero, crema e rosso. Tre gusti diversi.»
• «Come con Manzoni: dove non dici cosa vuoi, il modello tappa i buchi. E ognuno li tappa a modo suo.»
• «Una sola prova per modello: è un indizio, non una legge. Ma provatelo a casa.»

Da dire

• «Il modello tappa i buchi. Allora i buchi riempiamoli noi.»
• «Questo è tutto quello che il modello potrebbe dire. Ogni punto è una strada possibile, e senza contesto le prende tutte.» Il grafo passa da solo al bersaglio, poi al funnel: «Il contesto restringe il campo verso quello che cerchi. Ogni pezzo che aggiungi stringe la strada, finché il modello arriva lì.»
• «Oggi lo chiamano context engineering: non scrivere il prompt perfetto, ma progettare tutto quello che il modello ha davanti quando risponde. Le istruzioni, gli esempi, i documenti, le regole, la conversazione fin lì. Per chi fa il nostro mestiere è progettare il contesto.»
• «Ho scritto miglior contesto, non più contesto. Non è quanto ne dai, è quale: il contesto va progettato, non accumulato.»
• «E con un buon contesto si arriva lontano. Quanto lontano?»

Se chiedono · il termine lo usava Riley Goodside nel 2023, Karpathy e Tobi Lütke lo hanno rilanciato nel 2025

Da dire

• «Con un buon contesto, questo dado è bravissimo. In pochi minuti arriva al 70% di quello che avevo in testa: la struttura, la gerarchia, un'identità che sta in piedi.»
• «Le tre palestre che avete visto sono tutte ottime per un primo incontro col cliente. Ci vai, le mostri, e la riunione va bene.»
• «Poi il cliente dice: il verde un po' più scuro, l'iscrizione in due passi, il logo vero. Ed è lì, quando si tratta di raffinare quel 30%, che iniziano i problemi.»
• «Addy Osmani, ingegnere di Google, lo chiama il problema del 70%. Parlava di codice, ma nel design è identico.»
• «Il 30% che resta è dove va il tempo: i dettagli, i casi limite, le decisioni che rendono un'interfaccia tua e non una qualsiasi. E non è detto che ci si arrivi.»
• «Per capire dove si inceppa bisogna guardare come funziona il contesto, e dove si rompe.»

Da dire

• «Vi ricordate la palestra? Stesso prompt, stessi tre modelli. Ma questa volta dentro Figma Make.»
• Pausa, lasciare guardare.
• «Fondo carta. Arancio, terracotta, mattone. Titoli grassi. Uno ci ha disegnato pure il Gazometro, un altro l'ha messo nell'indirizzo del modulo.»
• «RLHF, reinforcement learning from human feedback. Dopo l'addestramento i modelli vengono rifiniti così: producono più risposte, delle persone scelgono quella che preferiscono, e il modello impara a dare quello che piace. Tenetela a mente.»
• «Overfitting. Il funnel stringe troppo, e un dettaglio diventa una regola. Nel prompt c'era una parola, Ostiense, e Gemini ne ha fatto un'identità intera. Ve lo spiega lui: "Palette ispirata all'architettura industriale di Ostiense e alla stampa tipografica sociale romana: carta non sbiancata, intonaco caldo, inchiostro asfalto, terracotta romana e ocra mutualista."»
• «Sycophancy, la piaggeria. È l'effetto dell'RLHF: premi chi ti accontenta, e il modello impara ad accontentarti. Nel design la chiamo sycophancy visuale: il modello ripropone i pattern che hanno avuto successo, il fondo carta, il titolo grasso, l'accento caldo. Le scelte che piacciono a tutti, e quindi le più probabili.»
• «E la conseguenza, che io chiamo appiattimento statistico. Fuori erano tre gusti, qui dentro ne resta uno. Tre modelli di tre aziende finiscono nello stesso punto. Non la risposta migliore: la più probabile dentro quello strumento.»
• «Nessuno ha chiesto la carta. Quando non decidi tu, decide chi ha costruito lo strumento. Ecco chi ha deciso il default.»

Se chiedono · lo strato di Figma non lo vediamo, lo deduciamo: fuori i tre divergono, dentro convergono. L'RLHF c'è anche fuori, quindi spiega verso dove si converge; Figma spiega perché

Da dire

• «L'ultimo modo in cui il contesto si rompe sta in come un modello legge. E spiega perché quel 30% è così faticoso.»
• «Nel 2023 un gruppo di ricercatori di Stanford ha nascosto la risposta giusta in punti diversi di un testo lungo. Se sta all'inizio, il modello la trova. Se sta alla fine, abbastanza. Se sta in mezzo, la perde: va peggio che non dargli nessun documento.»
• «Si chiama lost in the middle. Il contesto non è una memoria: è un testo, e il centro di un testo si legge male.»
• «Ora pensate a come lavoriamo. Correggo un bottone, poi la griglia, poi un colore. Ogni correzione allunga la conversazione, e le decisioni di dieci messaggi fa scivolano proprio lì, in mezzo. Aggiusto qui, si scassa lì.»
• «Allora la tentazione è scrivere regole. Una lista: usa questo colore, non usare quel font, il bottone sempre a destra. Ma una regola nel contesto non è una regola rispettata. È un pezzo di testo come gli altri: se finisce in mezzo, il modello può non leggerla. E se la legge, non è detto che la segua.»
• «Più regole aggiungi, meno ne segue. Un test del 2025 ha dato ai modelli fino a cinquecento istruzioni insieme: i migliori ne rispettano il 68%. Una lista più lunga non è una garanzia, è un altro testo in mezzo.»
• «Il problema allora non è correggere meglio. È che nessuno ha deciso prima, e il modello riempie i vuoti.»

Se chiedono · i modelli di oggi leggono meglio di quelli del 2023, ma il calo con la lunghezza resta (Chroma, 2025, 18 modelli)

Da dire

• «Fin qui il problema. Da qui come me le sono riprese, le decisioni.»
• «Me ne sono accorto dopo: quello che facevo ha già un nome. Rick Dakan e Joseph Feller lo chiamano AI Fluency, e lo dividono in quattro D.»
• «Delegation: decidere prima cosa affidare al modello e cosa no. Description: dirglielo in una forma che usa davvero. Discernment: giudicare quello che esce. Diligence: risponderne.»
• «Ve le faccio vedere nell'ordine in cui le ho fatte io.»

Da dire

• «La prima D è quella che si salta sempre: decidere prima di aprire la chat.»
• «Il consiglio che do a tutti: appena lo stile è approvato, consolidate le decisioni in un design system.»
• «Un design system, alla fine, è documentazione. Con due parti che contano: i token e il contratto.»
• «I token sono le decisioni che hanno un valore: colori, misure, durate. Si possono impacchettare in formati che un modello legge e rispetta senza fatica.»
• «Il contratto è la parte difficile. Sono le regole: come si costruisce un componente, quando si usa, quando no.»
• «E allora la domanda diventa: in che forma glieli do?»

Da dire

• «Questa l'ho misurata, sul mio design system. Una domanda sola: se do a un modello lo stesso sistema in forme diverse, quale lo fa lavorare meglio, e a che prezzo?»
• «Sette compiti, da un bottone a una dashboard. Quattro modelli. Sette modi di dargli il sistema, dal niente fino a un server da interrogare. Quasi seicento run, valutate in automatico su quanto il codice rispetta il sistema.»
• Indicare le barre una per una. «Senza file inventa colori, misure, durate.»
• «Con i token i valori sono giusti, ma il file nomina i componenti e non dice com'è fatto ciascuno: le parti se le inventa.»
• «Con il documento di specifica arriva quasi in cima, ma a ogni run si legge 85 mila token.»
• «Con il server arriva più in alto, con la metà dei token. Non gli do un libro da leggere: gli do il pezzo che gli serve, quando gli serve.»
• «Ma non vince ovunque. Davanti a un componente che nel sistema non esiste, chi aveva i file si fermava e chiedeva. Chi aveva il server lo costruiva con i pezzi che aveva.»
• «Quindi la forma del contesto conta quanto il contenuto. E nemmeno la forma migliore decide al posto mio cosa fare quando la regola non c'è.»

Da dire

• «I design system funzionano così. I token sono gli atomi, l'alfabeto. Il contratto sono i legami, la grammatica. E ogni design system è una lingua a sé.»
• «Guardate la stessa regola, un solo bottone principale, in tre design system tra i più usati. Polaris dice: con parsimonia. Primer: raramente. Ant Design: consigliamo.»
• «Il valore è un dato. La regola è un consiglio. E un modello, un "raramente", come lo esegue?»
• «Ho analizzato quattordici design system fra i più maturi. I valori ci sono tutti. Le regole, quando usarlo e quando mai, stanno in pagine di prosa.»
• «E il modello legge i valori; la prosa, l'abbiamo visto, si perde nel mezzo.»

Da dire

• «Torniamo alla palestra. Delle tre proposte di prima, il cliente ne ha scelta una: quella nera, con le strisce rosse.»
• «Io faccio quello che vi ho consigliato: consolido quella scelta in un design system. Token, componenti, regole. Nessun testo, nessuna pagina descritta.»
• «Poi chiedo ai tre modelli una pagina che il file non ha mai visto: i corsi e gli orari.»
• Pausa, lasciare guardare.
• «Titoli diversi, testi diversi, contenuti diversi. Lo stesso sistema. Non sulla carta arancione di qualcun altro: sulla decisione del mio cliente.»
• «E ve lo dico io prima che me lo chiediate: sì, per partire basta un file. Il 70% ben fatto, al primo colpo.»
• «Ma guardate cos'è, questo contratto. A parte i token, è prosa: frasi. Non esiste un formato che renda le regole deterministiche. Il modello le legge, e le può anche non seguire.»
• «E un file non ricorda niente. Non sa cosa è andato storto ieri, e non si accorge di cosa va storto oggi.»

Se chiedono · una prova per modello e per pagina. Dove il contratto tace interpretano ancora: il formato dell'anno, un menu non richiesto

Da dire

• «Allora come si tiene una decisione nel tempo? Con un harness.»
• «Harness, in inglese, vuol dire imbracatura. Io me lo immagino come i robottoni giganti dei cartoni giapponesi. Una macchina enorme che moltiplica quello che sai fare. Ma da sola non fa un passo: dentro c'è sempre qualcuno che la pilota.»
• «È fatto di quattro pezzi. Il piano: le decisioni scritte prima, il contratto che abbiamo appena visto. La skill: il modo di lavorare. La verifica: codice che controlla. E il gate: una persona che firma.»

Da dire

• «La skill è il modo di lavorare. La prima volta un processo lo faccio io, e intanto lo smonto. La seconda lo fa il modello e io lo tengo per mano. La terza va quasi da sola.»
• «Ogni errore che vedo diventa una regola. Esempio: nel primo test, sul telefono di Gemini, il bottone Invia arrivava prima dei campi e la barra copriva il nome. Il contratto era rispettato; il modulo era sbagliato.»
• «Ma le regole sono prosa. Anthropic lo scrive nella documentazione: sopra le 200 righe un file di istruzioni consuma contesto e il modello le segue peggio. E niente le fa rispettare.»
• «Allora ho fatto quello che si fa con il codice: la verifica non la lascio al modello che ha lavorato. Prima di consegnarmi il design, il risultato passa da due controlli. Degli script Python, deterministici, per tutto quello che si misura: colori, misure, contrasto, cosa succede su un telefono. E un subagente a freddo, un altro modello che non ha visto il lavoro, per quello che va letto.»
• «Se è rosso, faccio il triage: quello che è certo lo correggo, quello che è dubbio lo decido io. E l'errore diventa una regola nuova e un controllo nuovo. Poi si rigira. Quando è verde, arriva a me.»

Il climax: errore, regola, controllo

Da dire

• «Manca un pezzo. Un controllo che segnala e basta è un'opinione ben documentata. È lo stato di ogni principio etico scritto in un manifesto.»
• «Il gate è il punto in cui il sistema ha il potere di fermarsi. E il gate ha una chiave: chi lo apre, firma.»
• «Ecco dove "decisa da chi?" smette di essere una domanda retorica. Ha un nome e una data.»

• «E il verde non basta.»
• «Floridi ha un'immagine che non mi toglie più: chi ha fatto la salita con lo zaino ha senso critico. L'intelligenza artificiale è la discesa.»
• «I controlli verificano che una regola esista e sia rispettata. Non che il risultato vada bene per una persona.»
• «I controlli ricordano gli errori che ho già visto. Quelli nuovi li vede solo una persona.»

«Chi apre, firma» si dice mentre il gate si apre

Da dire

• «Southleft ha un'espressione che riassume tutto: machine-readable, non machine-governed. Leggibile dalla macchina, deciso da una persona.»
• «Niente di tutto questo rende etico un sistema. Rende le sue decisioni ispezionabili, e attribuibili a qualcuno.»
• «È il minimo perché alla domanda "a spese di chi?" ci sia una risposta che si può controllare.»
• «La prossima volta che un modello vi consegna il 70% in cinque minuti, prima di aggiustare chiedetevi: chi ha deciso il default? E se la risposta è nessuno, decidetelo voi.»

L'ultima frase alla lettera. Nessuna scusa in chiusura