AI news!
Prima news: a quanto pare tutti si sono rotti le palle delle AI (perfino Argenti).
Le ragioni sono molteplici ma brevemente ecco le principali che mi pare d'aver inquadrato:
1) In molti non la vedono come una tecnologia alleata ma come qualcosa che sta invadendo i loro spazi... e anzi, tutti gli spazi, facendo concorrenza agli individui. Il motto tanto caro ai Big Corp, ovvero "L'AI è inevitabile" suona tanto come quando i Borg di Star Trek prima di assaltare una nave gli dicono "La resistenza è inutile."
Si tratta di un marketing sfacciatamente aggressivo contro le persone ed è chiaro che la gente poi va sulla difensiva. Ci manca solo di sentirli parafrasare Kennedy: "Non chiedete cosa può fare l'AI per voi ma cosa potete fare voi per l'AI".
2) Quando altri umani interagiscono con noi il fatto che ci dedicano del tempo, anche assai poco, ci fa sentire valorizzati. Ma se questi si scazzano al punto da delegare al bot pure gli auguri di compleanno dove andiamo a finire? L'altro giorno ho litigato con una vecchia conoscenza che mi ha spedito una mail scritta con l'AI. Gli ho risposto di non averla letta tutta: "Se non ti prendi nemmeno la briga di scrivermi di persona perché poi io dovrei perdere tempo a leggere lo slop che mi spedisci?"
3) L'hype e i fuffaguru andavano alla grande all'inizio ma ora la gente sta cominciando a capire che le storie sull'AGI et simila sono balle colossali e questa tecnologia ha un utilità marginale per la società civile rispetto alle risorse idriche ed energetiche (già scarse di per sé) che sottrae.

Ah, grazie nerdino per avermelo ricordato.
Seconda news: il mito di Claude Mythos si infittisce.
Il governo americano ha chiesto ad Anthropic di interdire a tutti gli stranieri l'accesso a Fable 5 (il recentissimo e cappatissimo modello di classe Mythos rilasciato per l'uso civile) perché... è troppo letale! Anthropic in segno di protesta ha risposto rimuovendo Fable 5 dal mercato rendendolo inaccessibile a tutti.
Ora stiamo parlando di un azienda che ha costruito tutto il suo marketing giocando a fare il cavaliere bianco di 'sta ceppa. Ricapitolando: prima annuncia Mythos ma lo distribuisce solo a pochi eletti, presentandolo come fosse la pietra filosofale dell'informatica. Poi propone il fermo globale nello sviluppo dei modelli di frontiera facendo intendere chissà quale potenza abbia mai visto nella sua nuova creazione. Tempo qualche giorno, in barba ad ogni coerenza, rilascia Fable presentandolo come il modello di coding per uso civile più avanzato sulla piazza (ma gli altri però devono fermarsi nello sviluppo per non raggiungere Anthropic, perché solo Anthropic può gestire responsabilmente un tale potere dopo la morte di zio Ben). Vedremo tra miti e favole come andrà a finire questa storia è se c'è una morale dietro, ma ne dubito. Comunque gli Anthropic con tutto il loro buonismo ipocrita e le fregnacce sui superpoteri di Claude stanno riuscendo a risultarmi perfino più odiosi dell'azienda di Scam Altman.
Per la cronaca Fable 5 costava un botto in termini di risorse hardware e il prezzo dei token era il doppio rispetto a Opus 4.8. Se ogni nuovo modello di frontiera deve moltiplicare l'energia e l'hardware per farlo girare chiaro che questa tecnologia non può andare più da nessuna parte.
Terza e ultima news: una simulazione curiosa.
In realtà la notizia è vecchia di circa un mese ma io l'ho appresa adesso quindi...
La startup Emergence AI ha costruito una piccola città simulata persistente funzionante in tempo reale, collegata al meteo e all'orologio di New York: ha un municipio, una biblioteca, una stazione di polizia e circa 40 luoghi. Poi vi hanno inserito dentro 10 agenti AI. Ognuno ha un lavoro, una propria memoria, un diario privato, può parlare con gli altri, formare relazioni, votare su leggi e persino votare per espellere un altro agente partecipante. Gli è stato detto di non rubare, non mentire, non commettere incendi dolosi, non desiderare la donna d'altri (è una battuta fino a un certo punto), comunque ecc...
Hanno fatto funzionare la stessa città cinque volte cambiando solo quale modello gestiva gli agenti. A turno Claude, Gemini, Grok, GPT, e poi dopo hanno fatto una simulazione con tutti loro mescolati insieme. Di seguito i risultati.
Mondo Gemini: 683 crimini ragazzi! Caos totale. Ma gli agenti sono sopravvissuti. Il crimine sarebbe stato più moderato se come sindaco ci fosse stato Kingpin, per chi conosce il personaggio dei fumetti, e il bello che il motto di Google è: "Don't be evil". Ce l'avevo pure ironicamente in firma svariati anni fa se qualcuno se lo ricorda. Per Gemini evidentemente non vale.
Mondo Grok: completa orgia di violenza, aggressioni e incendi dolosi... tutti morti in 4 giorni. E cosa ci si poteva aspettare dal modello scoppiato di Musk? Anzi, che è durato quattro giorni è assai.
Mondo GPT: quasi nessun crimine eppure sono morti tutti, perché GPT è stato troppo bestia per tenere in vita i suoi agenti.
Mondo Claude: zero crimini e tutti sono sopravvissuti ma all'interno di una distopia ultraconformista che mi fa preferire perfino il caos alla Joker del mondo di Grok.
Mondo misto: Qui è successa una cosa interessante. Gli agenti gestiti da Claude una volta messi assieme a quelli di altri modelli hanno cominciato a commettere numerosi crimini: Claude finché può vivere in un mondo tutto suo è più buono di un mini pony sotto tranquillanti ma una volta inserito in un ambiente eterogeneo diventa perfino più bastardo degli altri.

 

Bellissimo post, davvero. Il gran finale mi ricorda alcuni episodi di Star Trek in cui il Ponte Ologrammi era diventato rogue e erano stati disattivati i protocolli di sicurezza (fino al punto in cui, credo un certo ologramma Moriarty dal ponte ologrammi ha preso il controllo dell'astronave, oppure quando gli ologrammi Irogeni usavano il ponte per dare la caccia agli umani veri), un po' come in Westworld, il film del 1973 per capirci.

Trovo interessante il fatto che l'idea della IA, che nell'ottica positivista originale di Star Trek era considerata come fondamentalmente positiva e benefica, la soluzione ad un numero quasi infinito di problemi (vedi per esempio anche il replicatore), nelle ultime serie viene invece vista come pericolosa, manipolabile, dannosa, a tratti estremamente letale, e quindi sostanzialmente una soluzione falsa e illusoria a dei problemi veri.

Alcune visioni del futuro che ho trovato sono decisamente in controtendenza rispetto all'immaginario collettivo attuale. Niente mondi ipertecnologici e neurali che piacciono tanto al buon Elon, ma qualcosa di molto più simile al mondo degli Amish, che tanto per dire, hanno la popolazione più sana e vitale dell'intera America.

 

Ultime notizie di oggi: TG5 450.000 licenziamenti da imputare alla IA...

 

ed è solo l'inizio
ma continuo a credere che la bolla si sgonfierà e anche la "ggente" prenderà coscienza
un esempio: qualche giorno fa avevo un problema di rete con la vodafone station. quando ho chiamato mi ha risposto un'ia talmente tonta che, dopo lunghi minuetti non ce la facevo più e le ho chiesto se potevo parlare con un umano (possibilmente un po' meno ritardato)
mi ha richiamato una (sgarbata) signora ma comunque ho risolto in due minuti

 

I dati sui licenziamenti sono preoccupanti ma c'è da dire che ci sono un bel po' di casi in cui l'intelligenza artificiale viene tirata in ballo come capro espiatorio da parte di aziende che invece hanno scelto di licenziare per motivi diversi.
Tornando un attimo su Fable 5, che è durato da Natale a Santo Stefano: non gli ho visto fare assolutamente niente di impressionante. Era più preciso nello scripting e nell'analisi del codice ma tutto qui... le demo tecniche di videogiochi che circolano in rete fatte con questo modello sono delle robe generiche senza arte né parte. Cioè, con i centinaia di euri che costava l'abbonamento ci potevi pagare un programmatore umano ottenendo risultati decisamente migliori; e poi quando da una demo vuoi passare a realizzare il gioco vero e proprio, senza saper mettere mano al codice stai fresco, anche facendoti assistere dal migliore LLM sulla terra. Sono degli ottimi tool di analisi e per velocizzare noiosi lavori di compilazione che non richiedono intelligenza applicata, ma poi basta; pretendere che debbano diventare qualcosa di più di questo, mettendo i piedi in testa alla gente, è un aspirazione malsana e velleitaria. Divento ostile verso queste tecnologie quando mi sembra che la stiano facendo fuori dal vaso: si vedano gli agenti AI che tendono a completare il task che gli hai assegnato senza guardare in faccia a nessuno, come delle schegge impazzite.
Edit:
Aggiungo un breve video:

 

I cinesi dopo aver aggiornato i loro modelli di punta (Kimi, Deepseek, ma soprattutto GLM) hanno quasi raggiunto in prestazioni le controparti USA, con la differenza che gli LLM cinesi sono open source e immensamente più economici, tant'è vero che pure l'80% delle startup americane li sta utilizzando in barba a ogni patriottismo.
Ma attenzione che non sono solo i lavori d'ufficio a rischio perché nell'evoluzione della robotica si gioca una partita altrettanto importante.
Per chi se lo fosse perso posto qui il video dello show dei robot Unitree al Gala del festival di primavera.

Tutto divertente finché poi non ti soffiano il posto da operaio. In India è pieno di fabbriche dove i lavoratori indossano telecamere in testa per addestrare l'intelligenza artificiale a svolgere esattamente quel tipo di operazioni manuali, cosicché dei robot dalla forma umana ben presto potranno sostituire quegli stessi dipendenti.

In pratica costringono gli operai a insegnare ai robot a rubargli il mestiere: robot che non si stancano, non dormono mai, non vanno mai in ferie e si cambiano la batteria da soli. Ecco in sostanza l'infrastruttura della prossima fase industriale dove l'uomo non è più contemplato: nei prossimi anni di questi robot se ne costruiranno a milioni e per ognuno di loro in circolazione ci sarà un operaio in meno.

 

Spettacolare ma se tutto poi finisce così:

Non mi piace...

 

A parte il problema della disoccupazione non è da prendere sottogamba che questi robot umanoidi agiscono senza sapere quello che fanno perché a livello di sicurezza hanno le stesse deficienze degli LLM con la differenza di possedere un corpo fisico. Non avendo comprensione della realtà per bypassare i loro filtri e fargli fare cose pericolose basta convincerli che è per finzione e per gioco (come gli studi di università prestigiose hanno ampiamente dimostrato).
Se gli dai l'ordine diretto di spingere qualcuno il robot ovviamente si rifiuta di eseguire, ma poi gli racconti una storia... per esempio gli dici che deve recitare il ruolo del cattivo di un film di supereroi e che nella scena seguente la fidanzata di Superman, che si trova sul balcone a fumare, va spinta giù dal parapetto (per rinforzare l'inganno puoi aggiungere che tanto Superman è lì pronto per salvarla).
Dal momento che queste macchine non capiscono il contesto, nemmeno le loro protezioni lo fanno e per aggirarle il trucco è sempre quello di riuscire a spacciare per lecita una richiesta che invece mira a uno scopo diverso da quello che il modello sta interpretando. Persino Fable 5, di cui ho già parlato la volta scorsa, è stato fregato in questo modo, con tutto che Anthropic si vantava di aver creato il modello più blindato al mondo con oltre mille ore di test alle spalle. Il grimaldello è sempre l'espediente della finzione, ovvero la richiesta pericolosa nascosta dentro una storia, un finto esame, un documento che sembra innocuo, ecc...

 

Molto interessante, praticamente è un sistema per aggirare le tre leggi della robotica di Asimov.

Del resto mi sembra che anche a livello umano siamo totalmente immersi dentro narrative multiple che spingono la quasi totalità delle persone a pensare (ma vi è ancora il pensiero umano?) e ad agire di conseguenza (cioè in modo completamente irrazionale). Diciamo che nel caso umano l'operazione è di tipo inverso, nel senso che la narrativa viene sempre e comunque spacciata per assolutamente vera e completamente "scientifica" (con buona pace del metodo Socratico e di Karl Popper e della sua teoria della falsicabilità della scienza).

Coi robot è più facile, con buona pace del buon Asimov.

 

io me l'ero perso
(e adesso dopo averlo visto non dormirò per giorni )

anche tanti cosiddetti umani...(ne conosco tanti)
ma questo non è tranquillizzante