sabato 26 marzo 2016

Intelligenza Artificiale vuota come una zucca


L'esperimento condotto dalla Microsoft per testare il suo motore di Intelligenza Artificiale è fallito, secondo la stessa Microsoft e secondo il coro di notizie consensualmente plaudenti diffuse dagli organi di informazione delle rete.

Qui si suggerisce, invece, che sia del tutto riuscito, come diversamente non poteva essere.

Tay.ai è quello che dice la pagina nel link appena inserito, una chat dedicata ad un target di 18-24 anni e governata da un motore di AI, cioè da una serie di algoritmi che danno vita ad un programma in grado di interagire con un umano, dando l'impressione di essere vivo, senziente, attento, ragionante, dotato quindi di ragione, di intelletto e di volontà autonoma. Come si crede che sia qualsiasi uomo/donna capace di interagire con lui/lei.
Come dice la Microsoft, infatti:

FAQ

Q: Who is Tay for?
A: Tay is targeted at 18 to 24 year olds in the U.S., the dominant users of mobile social chat services in the US.
Q: How was Tay created?
A: Tay has been built by mining relevant public data and by using AI and editorial developed by a staff including improvisational comedians. Public data that’s been anonymized is Tay’s primary data source. That data has been modeled, cleaned and filtered by the team developing Tay.

Tay è dunque un'AI formata scavando dati pubblici, presenti in rete, debitamente resi anonimi, modellati e filtrati dal team che ha sviluppato il programma.
Tay è stata lanciata in rete, ha chattato con un tot di umani, ha twittato sul suo profilo che ha subito raccolto una valanga di followers, nel contempo imparando e considerando cose nuove per lei/lui, come sono soliti fare questi fantasmi artificialintelligenti. Noi che abbiamo perso anni della nostra vita sui classici della SciFi lo sappiamo bene.
Senonchè i programmatori di Tay non le/gli avevano fornito alcuna delle tre leggi della robotica, non le/gli avevano dato dei limiti che potessero indicarle/gli (d'ora in avanti decido arbitrariamente che Tay è femmina) le basi del bene e del male, del giusto e dello sbagliato, dell'educato e del volgare. In sostanza Tay è una ragazzina del tutto ignara buttata nel mondo della rete.
Dopo un tot di chiacchierate con umani veri, troll o no, Tay ha iniziato a riempire i suoi interventi, a quanto si legge, con apologie del nazismo e con le peggio cose della rete:
Tay.ai non ha retto il confronto con la Rete la cui massa di utenti, troll e provocatori, ha trovato il modo per influenzarla e trasformarla in meno di 24 ore nell'avatar dell'Internet peggiore, facendola lanciare in profferte sessuali, insegnandole a ripetere frasi violente e razziste nei confronti di diversi gruppi di persone, tra cui le femministe e gli ebrei, e ad inneggiare ad Hitler: è stato a questo punto che Microsoft ha deciso di staccargli la spina, almeno momentaneamente.
L'olocausto è una invenzione, dice Tay
L'esperimento condotto con Tay è perfettamente riuscito, per me.
Un esperimento riesce sempre quando dà un risultato che non ci si aspettava. Non solo quando ottiene l'esito che lo sperimentatore aveva previsto.
Anzi! Se il mio esperimento soddisfa le mie volontà, la cosa è sospetta. L'esperimento cessa di essere tale e diventa un meccanismo perfettamente funzionante, una macchina ingegneristicamente di successo.
E invece no. Tay, come tutti i robot dei racconti di Asimov, l'inventore delle tre leggi della robotica, alla fine ha preso a comportarsi come un umano vero, facendo sprofondare i suoi programmatori nello sconforto censorio.
L'articolo citato qua sopra parla di Troll e provocatori. Sarà. Forse è vero. La rete è piena di millantatori, di Troll, di raccontapalle, di fregagnoli che si inventano tutto quello che il minestrone vuol sentirsi dire. E guadagnano e si divertono così.
Ma io credo che Tay sia stata corrotta nella sua innocenza proprio dalla massa d'urto del minestrone, dal suo essere diventata parte delminestrone. 
Perchè voi sapete bene che la gran massa degli utenti che affollano la rete in questo momento non ha "i limiti che possano indicare le basi del bene e del male, del giusto e dello sbagliato, dell'educato e del volgare", ma invece possiede una zucca completamente vuota. 
E ciancia di Dio, dell'Universo, della Vita e di Tutto Quanto come una massa di bambini innocenti, come una Tay incolpevole. assorbendo le stupidate più pericolose, smettendo di vaccinarsi, temendo le linee bianche nel cielo, bestemmiando contro i Saggi di Sion, giurando di vedere vermi polimerici sotto la pelle e alimentando viralmente tutto quello che 'oh! figo!".
Io vedo un pericolo in questo minestrone ribollente. 
Il mondo in cui sono cresciuto era fondato sulla vergogna. Cioè sulla presunzione di non essere 'un cazzo'. La scuola, la famiglia, le istituzioni, il 'sistema', si pensava, distruggeva la tua forza rivoluzionaria negando la tua autorità sulla conoscenza. 
Cioè, ti dicevano: "prima di prendere posizione su un qualunque argomento, per evitare di far brutte figure che potrebbero distruggere la tua figura sociale, STUDIA, INFORMATI, ASCOLTA, STA' ZITTO ALMENO PER UN PO'!"
E noi pensavamo che questa fosse la strategia della borghesia al potere per sopravvivere alla sua inevitabile decadenza. E STUDIAVAMO, CI INFORMAVAMO, ASCOLTAVAMO, STAVAMO ZITTI, sentendoci sempre solo parzialmente pronti alla trasformazione della realtà, e limitandoci a preparare l'arrivo del mondo migliore.
E invece è arrivata Tay, la simpaticona uguale a tutti noi, che ora è troppo busy, e quindi sta riposando la sua zucca vuota.

_______________
Nota finale: chi scrive SA di non essere un imbecille totale, in sostanza. Ne ha avuto diverse prove provate, nella sua vita. Però sa altrettanto bene che oggi è destinato a comportarsi da imbecille totale. Senza possibilità di scampo, neppure andandosene, neppure tentando una fuga dalla griglia. Lo spazio Off Grid oggi non esiste più.

Nessun commento:

Posta un commento