La tesi del libro
Il nucleo dell’argomentazione, prima di valutarne portata e limiti.
L’AI non vive nel cloud: è un’industria materiale
Crawford parte da ciò che il linguaggio tecnologico tende a nascondere. I sistemi di AI richiedono minerali, chip, cavi, data center, acqua ed energia. La metafora del cloud rende tutto leggero; la filiera reale è geograficamente localizzata e distribuisce costi ambientali in modo diseguale.
Guardare questa infrastruttura cambia anche la valutazione di un prodotto. La qualità non può coincidere soltanto con velocità e precisione: dovrebbe includere consumo di risorse, provenienza dell’hardware, durata del sistema e impatto nei territori che lo alimentano.
La correzione necessariaOgni servizio digitale ha una geografia, una filiera e un costo che l’interfaccia tende a rendere invisibili.
L’automazione è spesso sostenuta da lavoro nascosto
Dietro molti sistemi automatici ci sono persone che etichettano immagini, moderano contenuti, verificano risultati e gestiscono le eccezioni. Il lavoro non scompare: viene frammentato, esternalizzato e presentato come semplice input della macchina.
Questa osservazione è ancora più importante con l’AI generativa. Parlare di autonomia senza descrivere chi prepara i dati, valuta le risposte e assorbe il contenuto più problematico produce una rappresentazione incompleta sia dei costi sia delle responsabilità.
- Annotazione e pulizia dei dati.
- Moderazione di immagini e testi dannosi.
- Valutazione umana delle risposte del modello.
- Gestione manuale dei casi che l’automazione non risolve.
Cosa funziona davvero
Le idee che restano utili anche dopo aver chiuso il libro.
I dati non sono materia grezza e neutrale
Raccogliere dati significa scegliere che cosa conta, come nominarlo e quali categorie usare. I dataset incorporano quindi storia, convenzioni e rapporti di potere. Quando un sistema apprende da quelle raccolte, non si limita a fotografare il mondo: rende operative le classificazioni ricevute.
Per Crawford il bias non è soltanto un difetto da correggere aggiungendo esempi. Occorre chiedere chi abbia definito le categorie, con quale consenso e per quale finalità. Un sistema tecnicamente più equilibrato può restare ingiusto se automatizza una pratica che non dovrebbe esistere.
Prima della metricaNon basta chiedere se una classificazione è accurata. Bisogna chiedere se sia legittimo classificare le persone in quel modo.
Dalle emozioni allo Stato: il problema è il potere
Il libro analizza i sistemi che pretendono di dedurre emozioni dai volti e mostra quanto siano fragili le basi scientifiche di alcune applicazioni. Quando queste inferenze entrano in scuola, lavoro, sicurezza o controllo dei confini, una teoria discutibile può diventare una decisione con effetti reali.
Lo stesso vale per l’uso pubblico e militare dell’AI. L’attenzione etica al singolo modello rischia di arrivare troppo tardi se non si osservano appalti, infrastrutture, obiettivi istituzionali e possibilità di ricorso. La domanda centrale diventa chi può classificare chi, e con quali conseguenze.
- Verificare la solidità scientifica dell’inferenza promessa.
- Limitare gli usi nei contesti con forti asimmetrie di potere.
- Documentare provenienza e consenso dei dati.
- Garantire contestazione e rimedio alle persone coinvolte.
Dove convince meno
I punti su cui mantenere distanza critica durante la lettura.
La tesi è forte e deliberatamente critica: il lettore deve affiancarle prospettive operative diverse.
Molti casi riguardano Stati Uniti e grandi piattaforme, con minore attenzione alle differenze locali.
Il giudizio di Promptario
La nostra valutazione editoriale, senza confonderla con una sintesi neutrale.
Una mappa critica che deve entrare nelle decisioni
Né intelligente né artificiale non è un manuale per scegliere un modello o scrivere una policy. È un atlante che allarga il perimetro della valutazione. Dopo la lettura, prestazioni e costi economici non bastano più: diventano rilevanti filiera, lavoro, energia, consenso, classificazioni e concentrazione del potere.
La prospettiva è fortemente orientata e offre più diagnosi che soluzioni. È però proprio ciò che serve quando il dibattito parte da un’immagine troppo pulita dell’automazione. Lo consigliamo a chi decide acquisti, prodotti o politiche AI e vuole porre domande che una demo non può mostrare.