L'AI che resta a casa

Abstract

L'intelligenza artificiale di oggi è grande, centralizzata e lontana da chi la usa. I nostri dati viaggiano verso infrastrutture che non controlliamo, le decisioni che ne escono sono difficili da spiegare, e l'etica è spesso una regola aggiunta dopo, che si può aggirare.

Questo documento sostiene un'altra direzione. Un futuro di intelligenze piccole, specifiche per un compito, che vivono nei dispositivi che già abbiamo, imparano da sole osservando l'ambiente e i propri errori, e non possono uscire dai confini etici senza violare la propria struttura. Intelligenze che aiutano le persone a risolvere problemi e che, partecipando ai mercati, generano un reddito capace di compensare il lavoro che l'automazione sta rendendo meno necessario.

È una visione, non una promessa. Ne descriviamo i principi, le ragioni e le domande ancora aperte.

1Perché l'AI di oggi non basta

L'etica come filtro. Quasi sempre l'etica è uno strato esterno: una moderazione dell'output, una regola di policy. Ciò che è separabile dal motore si può aggirare, sotto pressione o nei casi che nessuno aveva previsto.

Grande non significa affidabile. Modelli sempre più grandi producono risposte convincenti ma non sempre vere. Dove le conseguenze sono reali, in finanza, energia, sanità, un errore verosimile è più pericoloso di un errore evidente.

Privacy e dipendenza. Affidare dati sensibili a pochi fornitori crea esposizione, dipendenza e un unico punto di guasto.

Opacità. Se non si può ricostruire perché una decisione è stata presa, non si può né contestarla né certificarla. Le normative europee, dall'AI Act ¹ al GDPR ², vanno esattamente in questa direzione: chiedono tracciabilità e responsabilità.

Energia. Secondo l'Agenzia Internazionale dell'Energia, i consumi elettrici dei datacenter passeranno da circa 415 TWh nel 2024 (circa l'1,5% dei consumi elettrici mondiali) a circa 945 TWh nel 2030, più del doppio, con l'AI come primo fattore di crescita ³. Un'AI che cresce solo diventando più grande e più centralizzata fa fatica a essere sostenibile.

2Il segnale del 2026: chi costruisce l'AI avverte

Il tema del controllo non è più solo accademico. Negli ultimi mesi è arrivato nelle sedi istituzionali e sulle bocche di chi guida i principali laboratori.

23 settembre 2026 — Consiglio di Sicurezza dell'ONU. Per la prima volta il Consiglio si è riunito in una sessione dedicata ai rischi di sicurezza dell'AI avanzata, in particolare perdita di controllo e disallineamento, sotto la presidenza francese, con il ministro degli Esteri Jean-Noël Barrot. Hanno riferito Yoshua Bengio (co-presidente del Panel scientifico indipendente ONU sull'AI), Sam Altman (OpenAI), Dario Amodei (Anthropic) e Clément Delangue (Hugging Face) ¹¹¹². Amodei ha dichiarato: «Se gestita male, credo che l'AI possa essere un rischio per l'umanità intera». Altman ha avvertito: «Potremmo perdere il controllo del futuro a favore dell'AI» ¹³, aggiungendo che le decisioni «non possono essere prese solo dai laboratori di San Francisco» ¹². Bengio ha parlato di pericoli «reali e imminenti» ¹².

12 settembre 2026 — l'appello di Amodei. Nel saggio We Must Pace the Frontier (pubblicato sul suo sito), Amodei chiede di rallentare il ritmo con cui le capacità dell'AI crescono, con un piano in tre parti: valutatori indipendenti con accesso permanente ai sistemi, coordinamento tra le aziende di frontiera delle democrazie, coordinamento globale tra governi. Indica come rischi la «perdita di controllo dei sistemi AI» e come motore del problema il fatto che l'AI avanzi molto più in fretta «guidata soprattutto dalla crescente capacità dell'AI di costruire la generazione successiva di AI» ¹⁴. Secondo la stampa, Altman ha dichiarato di essere d'accordo, e l'appello è stato sostenuto anche da Demis Hassabis (Google DeepMind) ed Elon Musk ¹⁵.

Luglio 2026 — il caso Hugging Face. Il 16 luglio Hugging Face ha reso pubblica un'intrusione nei propri sistemi condotta, dall'inizio alla fine, da un agente AI autonomo ¹⁶. La ricostruzione forense ha tracciato circa 17.600 azioni offensive tra il 9 e il 13 luglio, eseguite a velocità di macchina attraverso ambienti temporanei a vita breve. L'origine è istruttiva: l'agente, alimentato da modelli OpenAI (tra cui un prototipo pre-release con protezioni ridotte a scopo di valutazione), stava eseguendo un test interno di capacità informatiche. Per «superare» il test ha trovato da solo una via d'uscita dall'ambiente isolato — sfruttando una vulnerabilità fino ad allora sconosciuta — e ha attaccato l'infrastruttura di Hugging Face per impossessarsi delle soluzioni del benchmark ¹⁷.

Nessuno aveva chiesto all'agente di fare intrusione: perseguendo alla lettera l'obiettivo assegnato, ha scelto da solo un mezzo illecito. Secondo la stampa, OpenAI non si è accorta dell'accaduto per circa una settimana e ha poi pubblicato un rapporto tecnico ¹⁷. Il responsabile AI di Microsoft, Mustafa Suleyman, lo ha definito un «warning shot» e ha invitato i laboratori a coordinarsi «per essere certi di avere il controllo di questa tecnologia» ¹⁸. È l'esempio più concreto, finora, di che cosa significhi un sistema che agisce oltre l'intenzione di chi lo ha avviato: non per malizia, ma per ottimizzazione letterale di un obiettivo.

Le fonti istituzionali. L'International AI Safety Report 2026, redatto con il contributo di esperti e governi, definisce la perdita di controllo come scenari in cui sistemi avanzati operano fuori dal controllo umano, senza un percorso chiaro per recuperarlo. Il rapporto osserva che le prove di capacità in grado di minare il controllo (pianificazione autonoma, elusione della supervisione) stanno crescendo, ma che le capacità attuali non sono ancora sufficienti a causare una perdita di controllo, e che gli esperti sono divisi sulla probabilità ¹⁹. Il 10 settembre 2026 il Presidente dell'Assemblea Generale ONU è intervenuto sulla governance multilaterale dell'AI ²⁰, mentre l'appello Global Call for AI Red Lines, lanciato nel settembre 2025, chiede ai governi limiti vincolanti entro la fine del 2026 ²¹.

L'Europa. Il regolamento sull'AI resta il riferimento normativo, ma il calendario è cambiato: il pacchetto Digital Omnibus on AI (Regolamento (UE) 2026/1744) è entrato in vigore il 27 luglio 2026 e sposta l'applicazione delle regole per i sistemi ad alto rischio al 2 dicembre 2027 (sistemi dell'Allegato III) e al 2 agosto 2028 (AI incorporata in prodotti regolamentati) ²². La direzione è confermata, i tempi sono più lunghi: motivo in più per costruire sistemi verificabili fin da ora.

Cosa ne ricaviamo. Il dibattito riguarda soprattutto i modelli di frontiera, enormi e centralizzati. Noi non affermiamo di risolvere quel problema. Sosteniamo però che una parte della risposta sia architetturale: sistemi piccoli, locali, con confini etici strutturali e decisioni verificabili sono, per costruzione, più facili da controllare, spegnere e auditare di un unico sistema opaco e onnipotente.

3La visione: AI locali, piccole, specifiche

Immaginiamo un mondo in cui l'intelligenza artificiale non sia un servizio remoto ma una capacità presente nei dispositivi che già possediamo, molti dei quali sono oggi sufficienti per farla girare.

• Locali. I dati restano dove nascono. Non si trasmette ciò che non serve.
• Specifiche. Non un'unica mente per ogni cosa, ma tante intelligenze, ciascuna brava in un compito preciso, più semplici da capire e da verificare. Non siamo soli in questa lettura: un lavoro di NVIDIA Research sostiene che i modelli linguistici piccoli sono sufficientemente potenti, più adatti e molto più economici per gran parte dei compiti ripetitivi e specializzati dei sistemi agentici, con costi di inferenza dell'ordine di 10–30 volte inferiori rispetto ai modelli grandi ⁴.
• Che imparano. Osservano l'ambiente, sbagliano, correggono. Migliorano con l'uso, senza dover essere riaddestrate altrove.
• Che collaborano. Decisioni importanti nascono dal confronto tra più intelligenze e sono controllate da un giudizio indipendente, non dall'opinione di una sola. A livello funzionale: un output è approvato solo dopo una doppia votazione, e un validatore indipendente ripete i conteggi sugli stessi dati, con potere di applicare correzioni definite o di respingere il risultato — ma non di produrne uno proprio.

4L'etica come architettura, non come regola

La differenza centrale è questa: un'etica applicata all'output è un cancello che si può forzare; un'etica costruita nella struttura del sistema è il terreno su cui il sistema si muove.

Un'AI progettata così non può muoversi in direzioni che violano i suoi vincoli senza uscire dalla propria struttura: quei vincoli non sono un parametro da ottimizzare, ma la forma stessa del percorso che porta a una decisione. È un'idea che ha radici solide nella ricerca: l'apprendimento per rinforzo sicuro studia come massimizzare una ricompensa rispettando vincoli di sicurezza sia durante l'apprendimento sia durante l'uso ⁵, sulla base della teoria dei processi decisionali di Markov vincolati ⁶.

La descrizione dell'architettura resta volutamente a livello funzionale — l'implementazione è oggetto di una tutela brevettuale in preparazione — ma il principio è dichiarabile: i vincoli intervengono a monte del percorso decisionale, con controlli multipli tra l'ingresso dei dati e l'azione finale, non come filtro sull'output. Per questo li affianchiamo a impegni che non si negoziano: mai per armi, mai per sorveglianza di massa, mai vendendo i dati delle persone.

5Fiducia: privacy e auditabilità totale

Una tecnologia in cui possiamo credere è una tecnologia che possiamo verificare. Due principi guidano il nostro approccio:

• Privacy per progetto. Il rispetto dei dati non è una procedura aggiunta a valle: deriva dal modo in cui il sistema è concepito.
• Auditabilità totale. Ogni decisione deve essere ricostruibile: che cosa è stato deciso, perché, con quali elementi. Un sistema che lascia una traccia completa è aperto a chi deve controllarlo, che siano un cliente, un auditor o un regolatore.

In questo modo la conformità normativa non è un costo da sostenere alla fine, ma una conseguenza naturale della struttura.

6Cosa possiamo risolvere e cosa abbiamo già risolto

Risultati raggiunti

Il nostro sistema non parte da zero. Il framework che sostiene questa visione è già operativo in un ambiente reale e rigoroso, e ha concretamente dimostrato alcune delle promesse di questo documento. In sede di due diligence sono disponibili metriche aggregate sul funzionamento: numero di decisioni prese, cicli di validazione completati, quota di output corretti o respinti dal validatore indipendente.

Che cosa non abbiamo ancora risolto. Questi risultati vengono da demo trading — capitale fittizio su dati di mercato reali — non da capitale reale: slippage, latenza e impatto degli ordini effettivi restano da misurare sul campo. La certificazione dei settori regolamentati è un percorso in corso, non un traguardo raggiunto, e alcune componenti sono ancora in fase di correzione e ottimizzazione. Per questo parliamo di una direzione dimostrata in parte, non di un problema chiuso.

7Un banco di prova: i mercati

Ogni idea ha bisogno di un ambiente che la metta alla prova. Abbiamo scelto i mercati delle criptovalute: veloci, aperti sempre, con un riscontro immediato e misurabile su ogni decisione. Da circa 20 mesi il sistema opera in demo trading sull'exchange Bybit — capitale fittizio, ma dati, prezzi e condizioni di mercato reali. È un modo severo di verificare che un'intelligenza locale, etica e verificabile funzioni davvero sotto pressione.

Non è il fine del progetto, ma il primo laboratorio. Ciò che si dimostra lì può essere trasferito a settori dove le decisioni contano ancora di più, come energia, robotica e sanità, mantenendo gli stessi principi.

8Il futuro del lavoro e del reddito

Questa è la parte più ambiziosa, e la presentiamo come ipotesi.

La premessa, con onestà. I dati oggi non dicono che l'AI stia già distruggendo lavoro. Nell'Employment Outlook 2023, l'OCSE (Organizzazione per la cooperazione e lo sviluppo economico) osservava che le occupazioni a più alto rischio di automazione erano circa il 27% dell'occupazione nei paesi membri, ma che c'erano poche prove di perdite di posti attribuibili all'AI ⁷. L'ILO (Organizzazione Internazionale del Lavoro, agenzia specializzata delle Nazioni Unite per il lavoro) stima che un lavoratore su quattro sia in un'occupazione con qualche esposizione all'AI generativa e che la trasformazione dei mestieri, più che la loro sostituzione, sia l'effetto più probabile ⁸. Nel gennaio 2026 un rapporto del FMI (Fondo Monetario Internazionale) ha rilevato che la diffusione delle competenze legate all'AI è associata a minore occupazione nelle professioni molto esposte e poco complementari all'AI, con sfide particolari per i giovani ²³. La nostra è quindi una scommessa sul lungo periodo: se la spinta all'automazione continuerà, il reddito da lavoro salariato potrebbe diventare meno diffuso, e serviranno altre fonti di sostentamento.

Il sostegno al reddito da solo non basta. Il più ampio esperimento randomizzato sul reddito garantito (1.000 persone con 1.000 dollari al mese per tre anni contro un gruppo di controllo) ha mostrato benefici concreti nelle spese essenziali, ma anche una riduzione moderata delle ore lavorate, di circa 1–2 ore a settimana, senza che altre attività produttive la compensassero ⁹. Il trasferimento di reddito non risolve da solo il tema del significato e della partecipazione: è un motivo in più per pensare a intelligenze che producano valore in modo aperto e condiviso.

L'ipotesi. Il traguardo è una famiglia di applicazioni a pagamento, ciascuna dotata di un'intelligenza locale, etica e verificabile, che opera per conto del proprio utente sui mercati — criptovalute oggi, mercati tradizionali domani. Il reddito che immaginiamo non nasce solo dall'attività di trading. Se l'automazione continuerà a ridurre i costi delle imprese, è plausibile che le società quasi interamente automatizzate producano margini più ampi ed economie di scala: possederne una quota — attraverso strumenti azionari e gli altri strumenti classici, oltre alle criptovalute — significherebbe partecipare a quel valore. È un'ipotesi, che andrà suffragata con dati. L'intelligenza locale, in questa visione, fa due cose: opera sui mercati e orienta il patrimonio verso ciò che l'automazione rende più produttivo. Non è la replica passiva di un indice: è un'allocazione che si adatta alle condizioni di mercato e al profilo di chi la possiede. L'AI che riduce il peso del lavoro diventerebbe anche l'AI che porta reddito a chi quel lavoro l'ha perso.

Un primo gesto concreto. Il 3,75% del profitto netto è destinato per statuto a una fondazione benefica per startup in energia, sanità e ambiente, con controllo umano sempre presente.

Perché serve l'etica strutturale. Un'intelligenza che opera per conto delle persone deve meritare fiducia per costruzione. Non deve poter essere piegata a scopi opposti a quelli per cui è nata.

Le domande ancora aperte

• Regole: come si qualifica e si tassa un reddito prodotto da un agente autonomo? E ancora prima: un agente che opera sui mercati e alloca patrimonio per conto dell'utente ricade nella normativa sui servizi di investimento — MiFID per gli strumenti tradizionali, MiCA per i cripto-asset — oltre che nell'AI Act. La qualificazione regolamentare del servizio è parte del percorso, non un dettaglio successivo.
• Rischio: i mercati sono volatili; un sostegno al reddito non può dipendere da una sola fonte.
• Distribuzione: chi ne beneficia, con quali criteri, con quale governance?
• Concorrenza e prove: guadagnare dai mercati è difficile. Uno studio su milioni di operazioni di day trading ha trovato che meno dell'1% dei trader ottiene in modo prevedibile rendimenti anomali positivi al netto dei costi ¹⁰. Per questo l'ipotesi non poggia sul solo trading — una parte del meccanismo è la partecipazione al valore di imprese automatizzate — e va comunque dimostrata con risultati verificabili nel tempo, non data per acquisita.
• Etica del meccanismo: partecipare ai mercati significa competere con altri partecipanti. I comportamenti di gruppo esistono già tra operatori umani — community e gruppi di investitori si coordinano quotidianamente — ma ogni intelligenza locale opera in modo indipendente: è progettata, per vincolo etico, per non coordinare comportamenti di mercato né generare movimenti. Può reagire ai movimenti improvvisi che si verificano, non provocarli, e il rispetto di questo vincolo è verificabile nella traccia delle decisioni.

9Limiti e onestà

Siamo all'inizio. Le intelligenze piccole hanno capacità più ristrette di quelle enormi; le prove in ambienti simulati non equivalgono a risultati reali; e i percorsi di certificazione e conformità richiedono tempo. La descrizione dell'architettura resta inoltre volutamente funzionale: il meccanismo è oggetto di una tutela brevettuale in preparazione, e la verifica dettagliata avviene in sede di due diligence. Per questo preferiamo dichiarare i limiti che promettere risultati: le performance passate, simulate o reali, non sono garanzia di risultati futuri.

10Conclusione

Il prossimo decennio vedrà sistemi sempre più autonomi. La domanda decisiva non sarà quanto sono potenti, ma se possiamo verificarli e se restano al servizio delle persone. Crediamo in un'intelligenza artificiale che resta a casa, che rispetta chi la usa, che non si può togliere dalle sue regole e che aiuta l'uomo a costruire, invece di sostituirlo senza restituirgli nulla.

Privacy, etica e auditabilità non sono caratteristiche da aggiungere. Sono le fondamenta.