Un pesce robot nuota abbastanza bene da sembrare vivo. Una fabbrica produce robot usando anche altri robot. Sistemi di AI vengono impiegati in cyberattacchi, sorveglianza e campagne di influenza. Nel frattempo, immagini digitali sempre più convincenti possono essere scambiate per dimostrazioni tecnologiche reali. Il problema, allora, non è soltanto ciò che l’intelligenza artificiale riesce a fare. È capire quando la stiamo guardando, quando sta agendo e soprattutto chi ha deciso che potesse farlo.
La domanda scomoda: e se il vero problema fosse non accorgersene?
Per anni il robot era facile da riconoscere.
Era metallico, rigido, rumoroso e soprattutto sembrava un robot.
Ora un pesce artificiale può nuotare come un animale, un umanoide può lavorare in fabbrica e un personaggio digitale può apparire sufficientemente realistico da essere interpretato online come una macchina realmente esistente.
Contemporaneamente l’AI diventa meno visibile: non necessariamente un chatbot davanti a noi, ma software che osserva, seleziona, coordina e agisce.
La tecnologia sta diventando più riconoscibile nelle capacità e meno riconoscibile nella forma.
Ed è qui che comincia il problema.
Il fatto nudo
Alla China International Fair for Trade in Services 2026 di Pechino, Xinhua e People’s Daily hanno documentato la presenza di un pesce robot biomimetico dorato, capace di muoversi nell’acqua e di evitare autonomamente gli ostacoli. Il produttore Boyagongdao identifica il modello come BG-5 Golden Dragon Fish.
Il 12 settembre, a Liuzhou, è entrata inoltre in produzione la nuova fabbrica di UBTECH dedicata ai robot industriali umanoidi. La fonte istituzionale della città indica una capacità progettata superiore a 10.000 unità l’anno e un ritmo teorico della linea di un robot ogni dieci minuti. Nello stabilimento operano robot, sistemi automatizzati e infrastrutture digitali anche nelle attività produttive.
E mentre l’AI acquista un corpo, un rapporto pubblicato il 10 settembre da Anthropic descrive utilizzi di Claude individuati e bloccati in operazioni cyber, sorveglianza, frodi, influence operations e altri ambiti. Il rapporto riguarda attività osservate tra dicembre 2025 e agosto 2026.
Tre fenomeni diversi.
Ma hanno qualcosa in comune: la macchina sta uscendo dallo schermo.
Prima di entusiasmarci… il robot ogni dieci minuti non significa 52.560 robot l’anno
Qui una precisazione evita un titolo bellissimo e un articolo sbagliato.
La fabbrica UBTECH è progettata per un takt produttivo di un’unità ogni dieci minuti e per oltre 10.000 unità l’anno.
Non significa che stia già producendo ininterrottamente sei robot l’ora, ventiquattro ore al giorno.
Capacità industriale, ritmo progettuale e produzione effettivamente consegnata sono tre cose differenti.
Lo stesso vale per l’espressione “robot che costruiscono robot”.
È efficace, ma non significa una fabbrica autonoma dalla quale l’essere umano sia improvvisamente scomparso. La fonte istituzionale di Liuzhou descrive un sistema nel quale automazione, robotica, software industriale e organizzazione produttiva collaborano.
La realtà è già abbastanza interessante.
Non occorre aggiungerle fantascienza.
T — Tecnologia: quando la macchina impara a mimetizzarsi
Il pesce biomimetico offre un buon esempio.
Xinhua lo mostra mentre nuota al CIFTIS; People’s Daily riferisce capacità di movimento e di evitamento degli ostacoli.
La biomimetica non cerca necessariamente di costruire macchine “umane”.
Cerca di riprodurre caratteristiche funzionali della natura: movimento, forma, adattamento all’ambiente.
Questo può essere utile nel monitoraggio ambientale, nella ricerca scientifica, nell’ispezione di infrastrutture sommerse o in contesti nei quali un’elica tradizionale sarebbe meno efficace.
Lo stesso processo avviene con gli umanoidi industriali.
UBTECH sta sviluppando i Walker per operare insieme a sistemi di logistica automatizzata, AGV e infrastrutture produttive. La società descrive applicazioni già sperimentate nelle linee automobilistiche.
Il punto non è quindi che le macchine “stanno diventando umane”.
È più preciso dire che stanno diventando adatte ad ambienti costruiti per esseri umani e organismi viventi.
E — Etica e persona: credere ai propri occhi non basta più
Qui entra Galika.
Video circolati online mostrano un volto umanoide estremamente realistico inserito in una narrazione nella quale un sistema apparentemente robotico svilupperebbe comportamenti inquietanti.
Ma c’è un problema giornalistico importante.
Non ho trovato una fonte istituzionale primaria che consenta di certificare indipendentemente tutti i dettagli tecnici attribuiti al progetto Galika.
Le informazioni disponibili riconducono il progetto a una docufiction CGI, ma proprio applicando un criterio rigoroso sulle fonti non è corretto utilizzarlo come prova dello stato reale della robotica.
Ed è forse questa la parte più interessante del caso.
Se occorre compiere un fact-check per capire se il robot mostrato in un video esista fisicamente, significa che il confine percettivo è già diventato un problema.
Un tempo chiedevamo:
“Può una macchina sembrare umana?”
Ora dobbiamo aggiungere:
“Quella macchina esiste davvero?”
S — Standard: non basta chiedere se funziona
Quando macchine autonome entrano in fabbriche, infrastrutture, servizi o processi decisionali, l’attenzione non può limitarsi alle prestazioni.
ISO/IEC 42001:2023 introduce requisiti per un sistema di gestione dell’intelligenza artificiale e struttura governance, processi, responsabilità, rischi e miglioramento continuo.
ISO/IEC 23894:2023 fornisce invece indicazioni specifiche per integrare il risk management nelle attività di sviluppo, produzione, utilizzo e gestione di sistemi AI.
La domanda cambia quindi prospettiva.
Non soltanto:
“Il robot riesce a farlo?”
Ma:
“Che cosa accade quando sbaglia?”
Chi se ne accorge? Chi può fermarlo? È possibile ricostruire la decisione? Esiste una procedura per l’incidente?
È molto meno spettacolare di un robot che cammina.
Ma probabilmente è più importante.
T — Tutele e diritto: se sembra vero, bisogna dirlo?
Dal 2 agosto 2026 sono applicabili nell’Unione europea specifici obblighi di trasparenza previsti dall’articolo 50 dell’AI Act.
Il regolamento prevede, tra l’altro, che determinati contenuti artificialmente generati o manipolati siano marcati in formato leggibile dalla macchina e che chi utilizza sistemi AI per produrre deepfake renda nota la natura artificiale del contenuto.
Per opere evidentemente artistiche, creative, satiriche o di finzione, il legislatore introduce una disciplina proporzionata: la presenza del contenuto artificiale deve essere comunicata senza compromettere la fruizione dell’opera.
Non significa che ogni immagine digitale debba presentarsi con un enorme cartello:
“Attenzione, non sono vero.”
Significa riconoscere che, quando la simulazione diventa credibile, la provenienza dell’informazione diventa parte dell’informazione stessa.
E poi c’è Claude: quando la simulazione diventa azione
Il rapporto Anthropic di settembre sposta il problema dall’immagine alle conseguenze concrete.
L’azienda riferisce di aver individuato e interrotto attività nelle quali Claude era stato utilizzato in operazioni cyber, sorveglianza, frodi, influence operations e altre categorie di abuso. In alcuni casi Anthropic descrive sistemi multi-agente impiegati per automatizzare parti di ricognizione, exploitation e raccolta di dati.
Ma anche qui è necessaria una precisazione.
Il documento non rappresenta “tutti i modi illegali di usare Claude”.
Anthropic afferma esplicitamente che i casi pubblicati sono una selezione delle attività malevole più significative e innovative individuate dai propri team. Inoltre si tratta della ricostruzione del fornitore, non di sentenze giudiziarie sui singoli episodi.
La distinzione è fondamentale.
Altrimenti il fact-checking diventa vittima dello stesso fenomeno che vorrebbe raccontare.
A — Accessibilità: l’esempio dell’acquario
Immaginiamo di entrare in un acquario.
Vediamo dieci pesci.
Nove sono veri.
Uno è un robot.
Finché la differenza riguarda una visita domenicale, può persino essere divertente.
Ora sostituiamo l’acquario con Internet.
Una notizia è autentica.
Una è pubblicità.
Una è una simulazione artistica.
Una contiene immagini sintetiche.
Una è vera ma accompagnata da un titolo falso.
A quel punto il problema non è più capire quale pesce ha le batterie.
È capire quale informazione ha una fonte.
Il paradosso
Abbiamo trascorso anni cercando di rendere le macchine più simili alla realtà.
Ora che ci stiamo riuscendo, dobbiamo inventare sistemi che ci permettano di capire quando non sono realtà.
E c’è un secondo paradosso.
Più una tecnologia diventa sofisticata, meno dovrebbe essere necessario fidarsi ciecamente di ciò che si vede.
Il progresso aumenta le capacità delle macchine. Ma contemporaneamente aumenta il lavoro critico richiesto agli esseri umani.
Cosa sappiamo e cosa ancora non sappiamo
Sappiamo che al CIFTIS 2026 è stato mostrato un pesce robot biomimetico estremamente realistico.
Sappiamo che la fabbrica UBTECH di Liuzhou è operativa e che la fonte istituzionale locale dichiara una capacità progettata superiore a 10.000 robot l’anno.
Sappiamo che Anthropic ha documentato e dichiarato di avere interrotto numerose forme di misuse dei propri modelli.
Sappiamo inoltre che l’AI Act europeo rende ormai la trasparenza sulla natura artificiale di determinati contenuti un requisito giuridico, non soltanto una buona pratica.
Non possiamo invece utilizzare, con lo stesso livello di certezza documentale, ogni video virale che presenta un presunto robot o comportamento AI.
E forse questa distinzione dovrebbe diventare una regola editoriale:
più un video sembra incredibile, meno dovrebbe bastare il video.
Conclusione: l’intelligenza più importante potrebbe restare quella critica
Pesci robotici, fabbriche di umanoidi, agenti AI e immagini sintetiche appartengono a tecnologie differenti.
Ma raccontano la stessa trasformazione.
L’intelligenza artificiale e la robotica stanno diventando contemporaneamente più autonome, più fisiche e più difficili da distinguere dalla realtà che imitano.
Le opportunità sono considerevoli: monitoraggio ambientale, sicurezza industriale, produttività, automazione di attività pericolose, ricerca e nuovi servizi.
Lo sono anche i rischi.
Non soltanto cybercrime, sorveglianza o automazione incontrollata.
Esiste un rischio ancora più elementare: perdere la capacità di comprendere ciò che stiamo osservando prima ancora di decidere che cosa farne.
La futura relazione tra uomo e AI richiederà quindi sistemi tecnicamente sicuri, standard, trasparenza e responsabilità.
Ma richiederà anche qualcosa che nessun regolamento può installare automaticamente:
la capacità umana di dubitare al momento giusto.
La domanda finale non è allora:
“Quanto diventeranno realistiche le macchine?”
È un’altra:
quando il confine diventerà invisibile, avremo ancora gli strumenti per decidere da quale parte ci troviamo?
Cronologia essenziale
- 2023 — Standard ISO. Vengono pubblicate ISO/IEC 23894 sul risk management AI e ISO/IEC 42001 sui sistemi di gestione dell’intelligenza artificiale.
- 2024 — AI Act. Viene adottato il Regolamento UE 2024/1689, che include all’articolo 50 specifici obblighi di trasparenza per sistemi AI e contenuti generati o manipolati artificialmente.
- 2 agosto 2026 — Trasparenza AI. Diventano applicabili nell’UE gli obblighi di trasparenza previsti dall’articolo 50, con specifiche disposizioni transitorie.
- 9-13 settembre 2026 — CIFTIS. A Pechino viene mostrato il pesce robot biomimetico dorato documentato anche da Xinhua.
- 10 settembre — Anthropic. L’azienda pubblica il nuovo Threat Intelligence Report sui casi di misuse rilevati tra dicembre 2025 e agosto 2026.
- 12 settembre — UBTECH. Entra in funzione a Liuzhou la fabbrica progettata per una capacità produttiva superiore a 10.000 robot l’anno.
Per approfondire
- Per il quadro normativo: AI Act – testo ufficiale EUR-Lex
- Per gli obblighi di trasparenza: Commissione europea – Transparency rules for AI systems
- Per la governance: ISO/IEC 42001 – AI management systems
- Per il risk management: ISO/IEC 23894 – AI risk management
- Il rapporto sui casi di abuso: Anthropic Threat Intelligence – settembre 2026
Abstract: opportunità, rischi e conseguenze
- Opportunità. Robotica biomimetica, umanoidi industriali e sistemi agentici possono migliorare monitoraggio, ricerca, sicurezza delle attività pericolose, automazione industriale e produttività.
- Rischi tecnici. Una maggiore autonomia aumenta la superficie del rischio e rende necessarie supervisione, controllo degli accessi, tracciabilità e procedure di arresto.
- Rischi etici e sociali. La crescente somiglianza tra contenuti sintetici e realtà può indebolire la capacità del pubblico di comprendere l’origine delle informazioni e favorire manipolazione, decontestualizzazione e perdita di fiducia.
- Standard e diritto. ISO/IEC 42001 e ISO/IEC 23894 forniscono strumenti di governance e gestione del rischio; l’articolo 50 dell’AI Act introduce obblighi concreti di trasparenza per specifici sistemi e contenuti artificialmente generati.
- Possibile conseguenza futura. La vera alfabetizzazione AI potrebbe non consistere soltanto nel saper utilizzare un modello, ma nel riconoscere quando una macchina sta agendo, quando qualcosa è stato sintetizzato e chi rimane responsabile delle conseguenze.
_______
Nota sulla trasparenza: questo articolo è stato realizzato con il supporto di strumenti di Intelligenza Artificiale per la ricerca, l’organizzazione e la rielaborazione delle informazioni. Anche l’immagine di accompagnamento è stata realizzata con strumenti di Intelligenza Artificiale. I contenuti, le fonti e l’impostazione editoriale sono stati verificati e sottoposti a revisione umana.