@mau provo ad esprimere la mia prospettiva su questa faccenda. Intanto, il linguaggio che usiamo per descrivere un fenomeno rischia di generare significati artificiali, che non stanno né nelle cose né nella vita. Quando si parla di LLMs, se si ha cognizione di cosa siano, bisognerebbe tenere sempre presente che stiamo parlando di sistemi informatici molto complessi che però non escono fuori da ciò che, più propriamente, sarebbe meglio chiamare automazione che non AI. In questa prospettiva, noi non "facciamo domande" ma componiamo degli input per sollecitare un sistema, è molto ma molto diverso. Sollecitato, il sistema genera automaticamente un output secondo il modo in cui è stato progettato, secondo la sua logica di funzionamento. Se sappiamo in cosa consiste la fase di "taratura" della matrice di pesi di un LLMs e di come quei valori reali sono memorizzati in DB vettoriali, non dovrebbe stupire il fatto di vedersi restituire in output dal sistema delle informazioni già in qualche modo contenute nei materiali impiegati per il tuning completati poi da quelle reperite nei DB vettoriali ed estratte secondo funzioni matematiche di distanza (vettoriale) tra termini e parole ridotte a vettori e valori reali. In tutto questo, parlare di "apprendimento", "domande", "risposte"... se non usiamo le virgolette significa che stiamo dando per scontato ciò che scontato non è.
Tralascio poi l'uso del termine "allucinazione" riferito alle macchine. Il termine è usato in modo improprio, da un punto di vista di cosa realmente è una allucinazione, ma oltrettutto non ha nulla a che vedere con ciò che realmente accade nella macchina e serve solo a generare una narrativa umanizzante (e falsa) sui LLMs.
Purtroppo su questi giochetti linguistici si sta costruendo una narrativa utile solo al mercato che ha tutto l'interesse a umanizzare le macchine, a fare credere di avere a che fare con dei quasi sistemi viventi, per generare aspettative e spostare più facilmente istituzioni e organizzazioni a firmare contratti d'uso dei sistemi.

@PaoloParti in questi fenomeni la neurodivergenza spesso non c'entra nulla. L'indecisione avviene a valle di un modo di sentirsi vivere e di generare senso che ha bisogno di un riferimento esterno certo rispetto al quale poi poter calcolare. La crisi è inevitabile quando ci si trova gettati in situazioni di vita che di calcolabile non hanno nulla, cioè la maggior parte delle situazioni esistenziali davvero significative. In quelle situazioni ci si trova come chi non sa nuotare all'improvviso in acque alte. Per chi non sa nuotare l'unico modo di stare in acqua alta è tenersi aggrappato a un galleggiante (il criterio astratto esterno).

Per lavorare bene su questa situazione, più che scelte "random" forzate si dovrebbe "imparare a nuotare", o almeno a muoversi in quell'elemento (l'incalcolabile) scoprendo nuove possibilità d'essere: imparare a conoscersi meglio da un punto di vista emotivo attraversando l'incertezza lasciandosi riorientare sia dalla situazione vissuta sia dal proprio sentire (gusti, ispirazioni, emozioni, sensazioni...), senza "staccare la spina" al cervello, ma senza dare per scontato che l'unico significato capace di orientare sia di tipo razionale e calcolabile.

Il riconoscimento di sé nelle esperienze emotive intercorrenti e la riconfigurazione narrativa più autentica dei vissuti, facilitano l'apertura e l'accesso a nuove possibilità d'essere, contribuiscono a rifondare il senso di efficacia personale attraverso un controllo cercato e vissuto in situazione - onlife - invece che solo nelle rigide astrazioni e nelle anticipazioni scollate dal sentire e dall'agire.

https://www.jayah.net/post-razionalismo-ai.html

«Un principio inaccettabile per la sinistra è la riduzione della persona a homo oeconomicus, che si accompagna all'idea di mercato naturalizzato: è il mercato che vota, decide, governa le nostre vite. Ne discende lo svuotamento di alcuni diritti fondamentali come istruzione e salute, i quali non possono essere vincolati alle risorse economiche. Allora occorre tornare alle parole della triade rivoluzionaria, eguaglianza, libertà e fraternità, che noi traduciamo in solidarietà: e questa non ha a che fare con i buoni sentimenti ma con una pratica sociale che favorisce i legami tra le persone. Non si tratta di ferri vecchi di una cultura politica defunta, ma di bussole imprescindibili. Alle quali aggiungerei un'altra parola-chiave fondamentale che è dignità.» ---[Stefano Rodotà]

@macfranc @cinema_serietv@feddit.it Ne avevo scritto molto tempo fa. È solo uno degli effetti a valle di un'abitudine insana e sostenuta nel tempo di arrivare a sé di sponda, sempre passando per l'altro. Quando l'altro è simulato, nei social o attraverso un dispositivo, l'impatto sullo stesso sistema nervoso è micidiale. Il risultato è che nessuno sa più sostenere il vuoto, l'essere rimandato a sé. Prende forma un pericoloso circolo vizioso: tanto più ci si sente vuoti e incapaci di generare una direzione da sé, tanto più aumenterà il bisogno di ancorarsi a qualcuno. Quanto più ci si abitua a vivere in relazione a una Alterità che legittima e fonda ogni sentire, tanto meno si sentirà il bisogno di interpellarsi, di mettersi a tema e questo, in assenza dell'altro, genererà ancora più vuoto. Le esperienze generate in questo circolo vizioso possono arrivare ad impoverire la vita al punto tale da rendere difficile sostenere qualunque esperienza richieda attenzione sostenuta e l'intimità con sé. Può così diventare difficile seguire e sostenere un’argomentazione, un'attività che richiede il tempo e la capacità di sostenere l'intima e silenziosa esperienza di sé che la sottende. Si intuisce allora come possa tornare più facile seguire uno slogan. Articolare e seguire un discorso può diventare una esperienza faticosa e frustrante che possiamo evitare leggendo o scrivendo un tweet. Seguire la trama narrativa di un film e gustarne l'estetica richiede, insieme, abbandono e concentrazione, si può dunque preferire cercare e guardare brevi video su youtube o l'episodio di una serie. Pensare richiede tempo, spesso anche la capacità di sostenere domande senza avere fretta di trovare immediatamente una risposta, meglio allora avere sotto mano schede riassuntive, ricette o schemi che ci consentano di orientarci (Chatbot-AI), di scegliere e sceglierci in fretta. Su questa direttrice, dai contesti educativi ci si aspettano facili e veloci soluzioni, orientate perlopiù alla dimensione pratica ed utilitaristica della vita. https://www.jayah.net/techidentity.html

@elettrona @macfranc cara Elena, le virgolette, nel caso preso in esame nell'articolo, non sono state tolte dai computer o da un algoritmo ma dagli esseri umani per scopi molto poco scientifici e culturali. L'articolo peraltro racconta solo una parte della storia, molto più complessa. Accenno qui la parte che manca nell'articolo di Jonnie Penn.

La prospettiva a fondamento dell’approccio computazionale è quella che da Leibniz e Kant arriva a noi passando per Fichte, Hermann von Helmholtz, Hermann Ebbinghaus, William James, Ewald Hering.
Il fondamento di questa prospettiva – mi scuso per la semplificazione – è che le sensazioni sono prive di ordine, forma ed estensione. Le intuizioni pure ordinano questo materiale caotico, mentre la messa in forma categoriale dei dati offerti dalla sensibilità consentirebbe di riconoscere gli oggetti del mondo e di orientarsi in esso. Secondo questa prospettiva dunque, l'esperienza risulta intelligibile e dotata di senso solo dopo essere stata ordinata dal pensiero. Saranno poi Helmholz e la sua scuola a declinare in termini fisiologici questa prospettiva.

Il modello del cervello come macchina logico-matematica incarnata è il frutto della
trasposizione del giudizio sintetico a priori di Kant – conoscenza posseduta a priori e in
conformità alla quale deve realizzarsi ogni determinazione della esperienza – nell'ambito neuroanatomico e neurofisiologico.

Le porte logiche dei dispositivi digitali e dei computer sono arrivate come base materiale e tecnologica perfetta per tale trasposizione, una volta dato per scontato (anche se non lo è affatto) che le cellule del nostro cervello si comportino come delle macchine a stati.

È su questa traiettoria di pensiero che si è poi agganciata la strategia delle virgolette tolte come stratagemma narrativo.

<b>Vuoi radicare una metafora? Elimina le virgolette</b>

Nella storia dell'IA, il <u>passaggio dal linguaggio metaforico a quello letterale</u> è stato una mossa deliberata che l'ha consacrata come una scienza.

Le origini dell'IA rivelano come la traiettoria linguistica delle prime ricerche rifletta il tentativo del campo di ottenere legittimità sfruttando la naturalizzazione della metafora della "<i>mente come computer</i>".

All'inizio degli anni '50, pionieri come Minsky e McCarthy erano molto cauti, usavano mettere tra virgolette termini come 'memoria', 'apprendimento' e 'intelligenza'. Le virgolette segnalavano che il computer si comportava come se possedesse questi tratti umani. La macchina era vista come una metafora della mente.

Man mano che il settore ha ricevto sostegno istituzionale e finanziamenti sostanziali, le virgolette sono scomparse: un cambiamento notevole nel modo in cui questi termini iniziavano ad essere intesi e utilizzati.

Trattando questi termini alla lettera, la metafora della 'mente come computer' è stata naturalizzata e la <b>differenza ontologica</b> tra computazione e cognizione si è sfumata fino a scomparire del tutto.

Eliminando le citazioni, si è passati dal vedere i computer come se fossero intelligenti a sostenere la presenza di una effettiva intelligenza nella macchina. Da quel momento l'IA è stata considerata una scienza capace di svelare le leggi universali del pensiero. La mente umana è così diventata una macchina universale, programmabile e conoscibile.

La <b>letteralizzazione</b> ha fornito il 'pedigree scientifico' utile a un'agenda politica ed economica che continua a formattare il fenomeno ancora oggi. Presentando l'IA come una scoperta dei meccanismi naturali della mente, i dati che consuma possono essere visti come una risorsa naturale piuttosto che come un prodotto della cultura umana.

Questa strategia retorica, che Penn nell'articolo definisce <b>animo nullius</b> (mente di nessuno), rispecchia la dottrina legale storica della <b>terra nullius</b> (terra di nessuno), che giustificava la confisca dei territori indigeni considerati come privi di proprietario. In modo simile, questa strategia ha permesso di considerare la conoscenza umana come una frontiera digitale vuota, destinata allo sfruttamento.
La letteralizzazione della 'mente-come-computer' ha un duplice scopo: stabilisce una regola di utilizzo e legittima l'appropriazione privata della conoscenza pubblica come passo naturale nel progresso scientifico.

Il linguaggio, i concetti e i loro usi non sono mai neutrali. Riflettono e rimandano ai vari campi della loro costituzione, della validità in cui si sono sviluppati e maturati (Michel Foucault). Le narrative che usiamo per descrivere i fenomeni non sono innocue, arrivano nel sociale come pratiche performative.

#ai #storia #economia #politica

https://www.cambridge.org/core/journals/bjhs-themes/article/animo-nullius-on-ais-origin-story-and-a-data-colonial-doctrine-of-discovery/E35550357FBA504B3E3ADAD6C43F67E3

@macfranc @lauramassera @eticadigitale beh, attenzione perché la Apple deve assolutamente garantire (quasi per contratto) ai suoi clienti la privacy e la protezione dei loro dati. Tanto da avvisare loro stessi diversi clienti che nemmeno si erano accorti di aver subito intrusioni e controlli attivi sui propri dispositivi offrendo persino assistenza legale. Difendono semplicemente il loro "feudo" dando protezione (finché conviene) ai loro protetti che continuano semplicemente a consumare gadget e giochini digitali. Della libertà e della privacy in sé non gliene importa nulla a nessuno, né a chi si lascia possedere né tantomeno alle grandi aziende come Apple.

Appunti di ricerca sulla evoluzione di dinamiche cooperative in società simulate con algoritmi genetici

In una società virtuale, composta da agenti artificiali che interagiscono secondo le regole del dilemma del prigioniero con iterazione, emergono complesse dinamiche e strategie di relazione.

Lo studio si ispira ai lavori di Robert Axelrod, un politologo della Università del Michigan che per primo sperimentò tornei tra automi capaci di giocare al Prisoner's Dilemma. Consentendo agli agenti artificiali di modificare la tabella di payoff di partenza, Genagents rappresenta una evoluzione di quelle sperimentazioni.

La sintesi del lavoro qui pubblicata si compone di una introduzione alla logica del Dilemma del Prigioniero con iterazione, una descrizione del modello matematico del sistema di simulazione preceduta da una breve introduzione alle teorie evoluzionistiche che lo hanno ispirato. Sono infine indicati i principali risultati sperimentali ottenuti e alcune riflessioni sui possibili scenari interpretativi in relazione a dinamiche osservabili nel mondo reale.

#ai #GeneticAlgorithms #GameTheory #sociology

https://www.jayah.net/rsc_genagents.html