Limiti e cautele di uno strumento utilissimo, alla luce di quanto accadde nel passaggio dal vapore all’elettricità.
È vero, l’intelligenza artificiale rappresenta un cambio di paradigma che va ben oltre la tradizionale automazione delle attività. Può svolgere una miriade di compiti anche complessi, è di grande aiuto nelle attività routinarie, ma è anche capacissima di prendere cantonate colossali e combinare guai a cascata. Soprattutto, si presta a un equivoco da manuale che abbiamo già vissuto in un altro momento di transizione storica, quello tra la macchina a vapore e il motore elettrico.
Prima dell’elettricità, le fabbriche erano organizzate intorno a un unico, grande albero motore mosso dalla macchina a vapore: un centro di potenza che, tramite cinghie e pulegge, distribuiva energia meccanica a tutte le postazioni. Con l’arrivo dei motori elettrici, le fabbriche, i mulini, le filande, ecc. hanno inizialmente replicato lo stesso schema, installando un solo grande motore elettrico al posto della macchina a vapore, senza ripensare l’architettura produttiva.
Solo dopo anni si è compreso che il vero vantaggio dell’elettricità stava nella possibilità di avere tanti piccoli motori distribuiti, uno per ogni postazione di lavoro, rendendo possibile una fabbrica più flessibile, modulare ed efficiente.
La seconda cantonata, forse ancora più pericolosa, riguarda la supervisione alla produzione AI. Prendendo come esempio una seconda transizione epocale, il passaggio dall’energia animale alla meccanizzazione ha profondamente mutato il ruolo dell’uomo, un po’ perché gli animali sono abbastanza autonomi, un po’ perché la macchina richiede di progettare, regolare, manutenere, definire cicli di fermo, ispezioni, standard operativi, ecc.
Con l’AI accade qualcosa di analogo: il sistema “va da solo” nel senso che elabora dati, prende decisioni entro il suo perimetro, genera contenuti e raccomandazioni senza intervento manuale su ogni singolo passaggio. Ma, come il motore, non può essere lasciato senza supervisione: richiede configurazione, monitoraggio, verifica degli output, aggiornamenti dei dati, definizione di limiti e procedure di verifica. L’essere umano si sposta dal fare direttamente il lavoro cognitivo al progettare, orchestrare e soprattutto controllare il lavoro dell’AI.
Se con gli animali l’errore si manifestava nel comportamento (un cavallo imbizzarrito, un bue stanco) e con le macchine si manifesta in un guasto, con l’AI l’errore non si distingue in nessun modo: è una decisione distorta, un output fuorviante, un uso improprio dei dati. In tutti e 3 i casi, la responsabilità resta umana. È sull’audit che si gioca la partita e il nostro ruolo deve essere quello del poliziotto cattivo. Davanti a noi non abbiamo un collega, ma un sospettato da mettere sotto torchio. Tra parentesi, chi scrive ha conseguito certificazioni AI ben visibili sul suo profilo LinkedIn.
Con l’AI oggi stiamo vivendo un passaggio analogo: la prima reazione è costruire un “grande motore cognitivo” centralizzato, un unico modello o agente che prova a fare tutto, sostituendo in blocco attività umane e processi esistenti. Il cambio di paradigma si realizza invece quando l’intelligenza artificiale viene spezzata in molti piccoli “motori decisionali” specializzati, integrati nelle singole postazioni di lavoro, nei singoli processi, nei singoli flussi di dati. In questo scenario, l’AI non è più un monolite che sostituisce un pezzo di organizzazione, ma una trama distribuita di micro-agenti che potenziano operai, impiegati, analisti, macchine e software, come l’elettricità ha reso possibile avere macchinari autonomi direttamente dove serviva la potenza.
(Autore: Carlo Quiri – Sistema Ratio)
(Foto: Ab. Unsplash.com)
#Qdpnews.it riproduzione riservata
