Chi governa l’algoritmo? Tecnologia, diritto e potere normativo nell’era digitale

La tecnologia sta ridefinendo non solo il modo in cui lavoriamo e comunichiamo, ma anche il concetto stesso di impresa, contratto e giustizia.

Non siamo più nell’era dell’impresa tradizionale. Siamo nell’era dell’impresa digitale.

Impresa digitale, smart contract e creator economy

La trasformazione è evidente.

La contrattualistica si automatizza attraverso smart contract basati su blockchain: programmi auto-eseguibili che sollevano interrogativi giuridici rilevanti. Siamo ancora nella fase del contratto o già nella sua esecuzione?

Parallelamente nasce la creator economy, dove influencer e content creator diventano soggetti economici con un proprio trattamento giuridico. La tecnologia non è più solo uno strumento: è infrastruttura.

Intelligenza artificiale e mondo del lavoro

L’intelligenza artificiale permea ormai ogni settore:

• selezione automatica dei curriculum

• profilazione comportamentale

• pricing personalizzato

• orientamento informativo

• impatto su scuola, sanità e giustizia

Non è teoria. In Italia abbiamo già visto casi concreti di utilizzo scorretto dell’AI, come le cosiddette pronunce sulla “Buona Scuola”, dove sistemi automatizzati avevano attribuito punteggi errati agli insegnanti.

Nel pianeta giustizia il tema è ancora più delicato. Una recente sentenza del Tribunale di Firenze ha condannato un avvocato per aver redatto un atto basandosi esclusivamente su contenuti generati dall’intelligenza artificiale, contenenti errori e precedenti giurisprudenziali inesistenti.

Il rischio principale è quello delle “allucinazioni” dell’AI: contenuti formalmente plausibili ma sostanzialmente falsi.

Il mito del giudice robot

Il “giudice robot” non è fantascienza. In Italia è escluso per ragioni costituzionali: il giudice deve essere naturale, precostituito per legge, imparziale e garantire il contraddittorio.

Ma nel panorama europeo il dibattito è aperto. In Francia si discute dell’uso dell’AI per procedimenti seriali, con il rischio di creare una giustizia di serie A e una di serie B.

Il processo rischia di diventare un workflow tecnologico.La domanda è: fino a che punto possiamo delegare il giudizio?

Privacy, GDPR e AI Act: l’arsenale normativo europeo

L’Europa ha scelto di regolamentare prima di liberalizzare.

Dal GDPR del 2016, con i principi di privacy by design e privacy by default, fino all’AI Act europeo, l’approccio è chiaro: classificazione dei sistemi in base al rischio.

• rischio minimo (es. videogiochi)

• rischio basso (chatbot)

• rischio alto (lavoro, sanità, giustizia)

• rischio vietato (social scoring generalizzato, riconoscimento biometrico indiscriminato)

Le sanzioni possono arrivare fino al 7% del fatturato globale annuo.

Alla base c’è una consapevolezza tecnica: i sistemi di machine learning operano su big data e spesso generano risultati attraverso una “black box” che nemmeno i programmatori comprendono pienamente.

Antropocentrismo digitale: la via italiana

L’Italia, e più in generale l’Europa, stanno scegliendo un approccio antropocentrico: riportare l’uomo al centro della relazione con la macchina.

Questo significa:

• alfabetizzazione tecnologica

• vigilanza sull’operatività dei sistemi

• responsabilità per omessa supervisione

• tutela costituzionale contro discriminazioni e bias

Il principio è chiaro: la tecnologia non deve sostituire l’uomo, ma potenziarlo.

I lati virtuosi dell’AI

Non esiste solo il rischio.

Ci sono applicazioni straordinarie: sistemi che analizzano la mimica facciale dei neonati prematuri per rilevare soglie di dolore; piattaforme che supportano persone nello spettro autistico creando reti di servizi personalizzati.

La tecnologia può essere strumento di inclusione e progresso.

Il punto non è fermarla. Il punto è governarla.