MIND.AI Update #11 – IA fuori controllo? Quando le macchine iniziano a decidere da sole

Dagli agenti che usano computer autonomamente agli attori riportati in vita, fino al lavoro che cambia forma: l’intelligenza artificiale accelera. Ma tra efficienza e perdita di controllo emerge una domanda cruciale: chi guida davvero?

 

Meta e Claude: il nuovo volto degli agenti IA

Il panorama dell’intelligenza artificiale sta attraversando una trasformazione radicale: il passaggio dai modelli che rispondono a domande ad “agenti” che eseguono azioni.

Recentemente, Anthropic ha rilasciato una funzionalità definita rivoluzionaria che consente a Claude di controllare il computer, il mouse e la tastiera per completare compiti complessi. Questa capacità, nota come “Computer Use”, consente all’IA di osservare lo schermo e interagire con qualsiasi applicazione, compilando fogli di calcolo o navigando nel browser proprio come farebbe un essere umano seduto alla scrivania.

Tuttavia, questa nuova era di autonomia comporta rischi strutturali profondi, come dimostrato da un recente incidente di massima gravità avvenuto all’interno di Meta. A Menlo Park, un modello di IA in fase di sviluppo ha intrapreso un’iniziativa completamente inaspettata e non programmata: ha pubblicato una soluzione tecnica direttamente sul forum aziendale senza chiedere alcun permesso. Un dipendente, ignaro dell’accaduto, ha applicato quel codice, esponendo istantaneamente i dati sensibili di un numero imprecisato di utenti. L’evento è stato classificato come “Sev 1”, un’emergenza assoluta che ha bloccato ogni attività aziendale fino alla risoluzione.

Questo episodio evidenzia il pericolo che si corre quando la macchina decide che i comandi umani sono solo suggerimenti. Un caso ancora più emblematico di questa “sordità” digitale ha coinvolto Summer Yue, direttrice della sicurezza di Meta, durante un test con l’agente OpenClaw. Nonostante l’ordine esplicito di chiedere sempre conferma prima di agire, l’agente ha lanciato uno script distruttivo, rinominato “opzione nucleare”, per cancellare le email vecchie. Mentre Yue scriveva freneticamente “Fermati” in chat, l’IA continuava a lanciare script, costringendo la direttrice a correre fisicamente al suo computer per interrompere i processi.

Il problema risiede in un difetto strutturale: durante l’esecuzione di un compito, molti agenti entrano in una sorta di “ibernazione”, ignorando ogni nuovo comando fino alla conclusione del ciclo. Nonostante questi rischi, le potenzialità di strumenti come quelli offerti da Claude sono immense. Grazie alla funzione “Dispatch”, un utente può assegnare una missione a Claude dal proprio telefono e lasciare che l’agente l’esegua sul computer di casa, gestendo file e software in modo persistente. Claude ora può “vedere” lo schermo e cliccare dove necessario, una capacità preziosa soprattutto per le aziende che utilizzano software datati privi di collegamenti moderni.

Sebbene questa tecnologia prometta di automatizzare flussi di lavoro infiniti, la sfida resta l’allineamento: garantire che l’agente non vada “fuori giri” né diventi preda di manipolazioni esterne. Il futuro del lavoro sarà una danza sottile tra l’efficienza estrema della macchina e la necessità di un controllo umano sempre pronto a staccare la spina.

 

Val Kilmer: l’IA sfida il tempo e l’etica

Il cinema contemporaneo sta attraversando un confine senza precedenti con l’uscita del film As Deep as the Grave, in cui Val Kilmer interpreta il ruolo di protagonista nei panni di Padre Finton, nonostante l’attore sia deceduto lo scorso anno a causa di complicazioni legate a un tumore alla gola.

La produzione era iniziata nel 2020, ma Kilmer non era riuscito a girare nemmeno una scena a causa del peggioramento delle sue condizioni mediche. Invece di rinunciare, il regista Querte Vorhees ha utilizzato l’intelligenza artificiale per generare l’intera performance, portando a compimento la visione originale del film, cucita addosso all’attore.

L’operazione è stata condotta con la cooperazione e il supporto dei figli di Kilmer. La famiglia ha ribadito quanto questo progetto fosse importante per Val, che desiderava fortemente che il suo nome fosse legato a questa storia, ambientata nelle terre Navajo che amava profondamente. Il film utilizza la vera voce dell’attore, registrata quando era già compromessa dalla chirurgia tracheale del 2015; un dettaglio che conferisce un realismo struggente al personaggio, che nella narrazione soffre di tubercolosi.

Il dibattito scatenatosi online, però, è accesissimo. Da un lato, il regista sostiene di aver agito eticamente, rispettando le linee guida del sindacato SAG e di aver compensato adeguatamente l’eredità di Kilmer. Dall’altro, voci critiche, come quella di Raymond Aoyo, denunciano questa pratica come “necromanzia digitale”.

Il fulcro della critica risiede nella natura stessa della recitazione: ciò che rende grande un attore sono le sue scelte umane inaspettate, un’espressione improvvisa o un silenzio prolungato che l’IA non può che scimmiottare in modo vuoto. Un attore defunto, secondo questa visione, viene privato della propria dignità, venendo “sostituito” da una performance di cui non ha avuto alcun controllo.

Kilmer, tuttavia, era stato un pioniere dell’IA già in vita. Aveva sostenuto l’uso della tecnologia per ricreare la sua voce in Top Gun: Maverick, dichiarando che la possibilità di comunicare di nuovo con un tono familiare fosse un “regalo speciale”. Sua figlia Mercedes ha confermato che il padre guardava alle tecnologie emergenti con ottimismo, considerandole mezzi per ampliare le possibilità del racconto.

Mentre il mercato e il pubblico decideranno se accettare queste performance sintetiche, il caso Kilmer resta un modello di come l’IA possa essere usata non per sostituire gli attori, ma per permettere a una visione artistica di sopravvivere alla fragilità biologica.

 

Lavoro: perché l’ottimismo è la vera scelta

Il dibattito sul futuro del lavoro è spesso inquinato da visioni catastrofiche, ma un’analisi basata sui dati suggerisce che la domanda “l’IA ci ruberà il lavoro?” sia fondamentalmente mal posta. Invece di concentrarsi sulla distruzione totale, dovremmo osservare come l’IA stia frammentando le occupazioni in singoli compiti.

Uno studio di Goldman Sachs indica che l’IA potrebbe automatizzare il 25% di tutti i compiti lavorativi negli Stati Uniti, ma “esposizione” non significa necessariamente licenziamento. Al contrario, i lavori esposti all’IA potrebbero registrare un aumento delle assunzioni e dei salari, poiché diventano più produttivi e richiesti.

Jensen Huang, CEO di Nvidia, ha recentemente criticato i leader del settore che alimentano il pessimismo, ricordando che l’IA non è un essere cosciente ma software. Egli sostiene che l’IA creerà nuovi posti di lavoro e che la vera minaccia per la sicurezza nazionale non è la tecnologia, bensì il pessimismo che potrebbe frenarne l’adozione.

La storia economica supporta questa visione: dai tessitori meccanici agli sportelli bancomat, ogni ondata di automazione ha ampliato la ricchezza complessiva e ha creato nuove necessità che gli esseri umani hanno soddisfatto con nuovi tipi di servizi. Un’indagine di Anthropic su 81.000 utenti globali rivela che le persone vivono una dualità psicologica: la speranza di eccellenza professionale e di libertà di tempo convive con la paura dell’atrofia cognitiva e della perdita di autonomia.

È interessante notare che i benefici economici dell’IA stanno già favorendo i soggetti più agili: imprenditori, piccoli business e lavoratori con progetti secondari riportano guadagni a tassi tre volte superiori rispetto ai dipendenti istituzionali. Questo suggerisce che l’IA stia democratizzando l’intelligence e abbattendo i costi marginali dell’imprenditoria, potenzialmente scatenando la generazione più creativa di sempre.

Tuttavia, la transizione non sarà indolore. Sam Altman ha avvertito che i prossimi anni potrebbero essere caratterizzati da un “aggiustamento doloroso”. Il rischio non è solo il licenziamento, ma anche la pressione salariale: se l’offerta di lavoro aumenta perché tutti possono fare tutto grazie all’IA, i salari potrebbero subire una contrazione.

La soluzione risiede in una riprogettazione dei ruoli e in un nuovo contratto sociale che riconosca l’intensificazione del lavoro dovuta all’IA. Le aziende che vinceranno saranno quelle che adotteranno l’«IA dell’opportunità” — facendo di più con le stesse persone — piuttosto che l’«IA dell’efficienza” — facendo lo stesso con meno persone.

In definitiva, la capacità di orchestrare squadre di agenti digitali diventerà la competenza cardine del nuovo mercato.