L’etica al tempo dei robot

Partiamo dalle definizioni

Etica: nel linguaggio filosofico, ogni  dottrina   o   riflessione   speculativa intorno al comportamento pratico dell’uomo, soprattutto in quanto intenda indicare quale sia il vero bene e quali i mezzi atti a conseguirlo, quali siano i doveri morali verso sé stessi e verso gli altri, e quali i criteri per giudicare sulla moralità delle azioni umane.

Dunque l’etica è il tentativo di individuare i fondamenti  razionali   che permettono di assegnare ai   comportamenti umani   uno   status deontologico , ovvero distinguerli in buoni, giusti, leciti, rispetto ai comportamenti ritenuti ingiusti, illeciti, sconvenienti o cattivi secondo un ideale modello comportamentale cioè secondo una data   morale .

L’etica può essere guardata come un”istituzione normativa” e “sociale” insieme.

Legalita_etica-696x411

Affinché si comprenda al meglio la natura ambivalente, intima e collettiva, dell’etica possiamo confrontarla con un’altra istituzione normativa, il  diritto . Entrambe le istituzioni regolano i rapporti tra individui affinché siano garantiti la   sicurezza personale   e l’ ordine pubblico , ma si affidano a mezzi diversi. Mentre il diritto si basa sulla   legge territoriale , valida solo sul territorio statale, che va promulgata affinché si conosca, che se non rispettata sarà seguita da una pena, l’etica si basa sulla   legge morale  già nota a tutti in modo non formale e valida universalmente o, più precisamente valida in un ambito sociale ampio in cui il processo storico ha sedimentato principi morali condivisi  ; il primo si occupa della convivenza fra gli individui, la seconda della condotta umana più in generale.

Corpo  Cervello e Mente

Vediamo come lo sviluppo della tecnica , ed in particolare dell’intelligenza artificiale,  incida profondamente sul perimetro e sul senso dell’etica al tempo dei robot.

Gli ultimi articoli pubblicati hanno evidenziato il ruolo del corpo nella formazione della coscienza dell’essere umano.

Il corpo funge in un certo senso da medium tra il cervello e la rappresentazione del mondo esterno.

In particolare gli studi di Damasio e Rizzolatti hanno mostrato che il processo della conoscenza della realtà che ci circonda e della costruzione della coscienza è una incessante costruzione di rappresentazioni mentali in tutte le situazioni in cui il corpo, con il suo apparato sensorio , entra in relazione con il mondo esterno.

Queste rappresentazioni non sono semplicemente le mappe neurali degli oggetti, ma, molto di  più , perché  ogni essere umano costruisce una propria rete di immagini mentali in questo continuo processo di “immersione” sensoriale nel mondo e in questo processo si sovrappongono e si intrecciano continuamente le emozioni perché  le emozioni sono a loro volta ancora una mappa mentale.

neuralnetwork-protesi-1280x720

Una emozione  è la forma finale in cui i processi omeostatici realizzano nella mente  il risultato di benessere o malessere che rappresentano,  a livello evolutivo, il motore della SOPRAVVIVENZA.

Ogni essere umano INTERIORIZZA a livello mentale il suo “Essere nel mondo” e l’intelligenza è questa piramide oculare che ci permette di scrutare e rispondere alle domande che la realtà ci pone.

In un certo senso il corpo  nella sua evoluzione,  a partire dagli organismi primitivi, si è dotato di strumenti via via più complessi per rispondere alla esigenza di sopravvivere e riprodursi e la mente è stata lo strumento strategico che ,a partire dal periodo cambriano , 600 milioni di anni fa,  ha realizzato il salto che ci ha portato fino ad oggi.

In sintesi possiamo dunque affermare che tutta la nostra intelligenza e dunque la nostra coscienza sarebbero intrecciate , anzi nascerebbero, solo se alla base c’è il corpo che funge da terreno di alimentazione e cultura da cui si sviluppa, come un albero, l’intelligenza e la coscienza.

Intelligenza razionale ed emotiva

con-etica-home-768x579

Tutto questo mette in crisi l’idea di identificare l’intelligenza con i suoi aspetti razionali,  simbolici ed algoritmici.

Questa identificazione era stata fortemente condizionata dagli sviluppi delle capacità dei computer che ,da semplice strumento di calcolo, si sono tecnicamente evoluti in strumenti di analisi e di scelta.

Oggi diversi settori strategici dell’attività umana,dall’economia alla medicina, sono guidati in maniera più o meno marcata dalle analisi e dalle previsioni fornite da computers e l’idea che tutte le funzioni “nobili” della mente rientrino nelle possibilità di replicazione delle macchine acquista progressivamente consenso.

Questa tesi non dimostrata ha una sua veste matematica con una congettura del matematico Church secondo il quale tutta l’attività mentale dell’essere umano è di tipo algoritmico e quindi riproducibile da una macchina.

Queste premesse ci servono per inquadrare il discorso, ampiamente affrontato in articoli precedenti di questo Blog,  della nascita , dello sviluppo e delle ultime realizzazioni della disciplina etichettata come “INTELLIGENZA ARTIFICIALE” .

Intelligenza artificiale come disciplina Nacque nel 1956.

Dopo i primi lusinghieri successi anche i sostenitori più ferventi ne dovettero riconoscere i limiti, che derivano dalla natura disincarnata della mente artificiale cioè  dall’assenza di un corpo che comunichi con l’ambiente. Se l’intento era quello di simulare l’intelligenza umana, il riduzionismo mentalista dell’intelligenza artificiale ne trascurava un elemento essenziale.

Intelligenza umana e animale si costituisce e si manifesta attraverso il corpo.

Occorreva dunque dotare il cervello artificiale di un corpo e questa esigenza portò alla robotica.

etical-AI-1

Oggi ci si rende conto che, per replicare compiutamente l’intelligenza umana, anche le macchine intelligenti non possono fare a meno dell’equivalente di un corpo con tutta la sua attività cognitiva profonda e in parte forse non algoritmica, l’ntelligenza disincarnata è troppo fragile e limitata.

Insomma il tentativo di tradurre in conoscenza alta, razionale ed esplicita la massa delle conoscenze materiali corporee e implicite incappa nell’ostacolo tipico di ogni processo di traduzione, cioè l’incompletezza. Rimane sempre un residuo ostinato e ribelle che non si può tradurre e la conoscenza razionale coesiste con quella parte etichettata come irrazionale che è fondamentalmente derivata dalle stratificazioni primitive e dalle emozioni che il processo evolutivo ha fissato nel cervello a partire dalle prime forme  apparse con le prime creature del cambriano.

Sul concetto di incompletezza voglio qui ricordare il primo teorema di Godel che ho citato nell’articolo pubblicato precedentemente  “L’essere umano è un sistema complesso adattativo”  

Primo teorema  di incompletezza: Se un sistema assiomatico è   coerente , ovvero da esso   non si possono dedurre un’affermazione e la sua negazione contemporaneamente , allora il sistema è sintatticamente incompleto, ovvero esistono   affermazioni sintatticamente corrette che non sono né dimostrabili né confutabili   . Ci sono cioè delle   affermazioni vere   che non possono essere dedotte dagli assiomi del sistema con un ragionamento logico.

Nell’essere umano, inteso come sistema assiomatico,  l’incompletezza potrebbe essere legata al fatto che la conoscenza corporea non è traducibile in intelligenza razionale e formale cioè in un ragionamento logico. Le verità non argomentative  della mente umana potrebbero essere quelle legate all’intelligenza emotiva prodotta dal corpo.

Sulla superiorità della conoscenza razionale rispetto  a  quella corporea la stessa tradizione filosofica ha sempre posto l’accento  . L’intelligenza che dimostra un teorema sarebbe superiore a quella che ci guida istintivamente nella vita quotidiana. Oggi questa posizione è messa in discussione attraverso un bilanciamento delle due forme di conoscenza.

Cosa vogliamo e cosa è possibile

Si pone dunque la questione di cosa vogliamo raggiungere con lo sviluppo di nuovi livelli di macchine dotate di intelligenza artificiale. Ci possiamo fermare alla soglia di un tecnicismo estremo senza avere nessuna pretesa e nessuna velleità di avere macchine che simulino l’essere umano,  o vogliamo veramente tentare la “creazione” di un essere artificiale inelligente, magari anche con fattezze esteriori perfettamente identiche al corpo umano e con un bagaglio di sentimenti più o meno elaborati ?

In realtà noi non abbiamo una teoria delle emozioni e se non abbiamo una teoria delle emozioni, non possiamo matematizzarla e quindi non possiamo avere un algoritmo da implementare in un robot per “creare” un robot con emozioni.

Ma non avere una teoria delle emozioni non esclude la possibilità di imparare le emozioni così come avviene con tutti i cuccioli che apprendono tramite i neuroni specchio ad avere il riflesso delle emozioni dei genitori o di chi li accudisce.

neuroni-specchio-scimmia-imita-linguaccia

Sicuramente esistono sentimenti primordiali  dovuti al processo evolutivo a partire dagli esseri viventi primitivi dotati di cervello e che precedono i sentimenti appresi con l’educazione parentale e questo restringe le possibilità di usare la strada dell’apprendimento emotivo .

Ora definire e circoscrivere queste due aree emotive è impossibile ma rimane , credo, la possibilità teorica di implementare in una macchina dotata di intelligenza artificiale una componente emozionale appresa e questa si avvale del funzionamento dei neuroni specchio.

Credo che la strada per avere una intelligenza emotiva nelle macchine debba passare e sorreggersi sulla possibilità tecnica di avere neuroni specchio artificiali e questo rimane una prospettiva futura  non sappiamo se fattibile.

Sicuramente lo sviluppo di robot con funzioni empatiche segue un percorso di ricerca specifico dell’intelligenza artificiale come si evince da questo articolo.

Penso comunque  che nessuna autolimitazione potrà mai fermare quello che tecnicamente si potrà mai fare e questo apre lo scenario di come ci dovremo attrezzare per affrontare il rapporto tra uomo e androidi ovvero robot con sembianze umane e con comportamenti relazionali simili agli esseri umani.

L’Europa ed il problema della AI

Nasce l’esigenza di indagare o, perlomeno, di intravedere, cosa caratterizza l’etica al tempo dei robot e potrà essere di conforto sapere che esiste una European AI Alliance promossa dalla Commissione Europea  per delineare le   “Ethics Guidelines for Trustworthy AI”  e che ha lo scopo di definire i limiti etici dell’intelligenza artificiale.

Se si parla di linee guida evidentemente si ha la giusta preoccupazione che tale disciplina , con le sue applicazioni, ha una valenza ed un impatto sociale che vanno ben oltre l’aspetto tecnico ma possono condizionare ed anche stravolgere il senso etico e morale dell’agire umano.

Occorre sottolineare che i robot lavorano in collaborazione con noi, una collaborazione che per il momento si configura come dipendenza, ma che in qualsiasi momento del futuro potrebbe assumere carattere paritario per i continui progressi tecnici e la distinzione, oggi chiarissima, tra uomo e robot tende ad attenuarsi.

Se vogliamo fare un salto storico ed antropologico pensiamo a cosa era il comportamento fra uomini liberi e schiavi e, per certi versi, fra nobili e plebe . Non c’era nessun riconoscimento dell’umanità e di dignità fra i primi ed i secondi, non c’era la percezione di sentimenti da rispettare, i sottomessi erano semplicemente strumenti più o meno tecnicamente dotati , ma niente di più,  erano i computer biofisici dell’epoca.

Allora se il problema del “riconoscimento ” dell’altro è un ritrovarsi con un corpo meccanico invece che biologico dove sta il dilemma ?

Ci sono due tipi di dilemmi

Il primo è analogo a quello derivante dal mancato riconoscimento dell’altro perché una cosa è una lavatrice,  un altra è un androide con una sua intelligenza e con propri sentimenti,  magari elementari . In questo senso bisogna ricordare che i nostri rapporti con gli animali, un cane ad esempio, sono ormai in una dimensione non certamente uomo-macchina.

Chi ricorda il film “Blade  runner ” ha ben presente di cosa si sta parlando e la buona fantascienza può essere anche profetica.

00055317-androidi-in-blade-runner-del-1982

Il secondo dilemma è legato a quella che è stata definita con il temine di “Singolarità tecnologica ” e che potrebbe rappresentare in futuro il momento in cui le capacità delle macchine dotate di intelligenza artificiale superassero le capacità umane.

In quel caso l’essere umano che ha sostituito progressivamente gli uomini con le macchine sarebbe sostituito dalle macchine e questo è uno scenario molto diverso dalla ribellione degli schiavi ai padroni, sarebbe la sottomissione degli umani.

I robot non sono elettrodomestici

Vediamo allora quali esempi già oggi pongono in crisi l’idea che i robot sono semplicemente macchine come un qualsiasi elettrodomestico.

La prima riflessione che occorre fare è  sul concetto di delega che gli umani affidano alla macchina.

Vale la pena distinguere tra delega di processi e delega di decisioni . Banalizzando, possiamo delegare il processo di lavare i piatti alla lavastoviglie, ma se e quando farlo, e che cosa metterci dentro è una decisione che rimane in capo a noi. Per quanto banale, questa logica è alla base di tutte le decisioni e i processi delegati alla tecnologia: quello che c’è dietro (perché, quando, cosa, vale la pena…) resta, deve restare, in capo a noi; il come (con quale efficacia, con quale efficienza…) è l’oggetto della delega.   Questo è fondamentale: va bene la delega dei processi, seppur con le dovute verifiche; per la delega delle decisioni bisogna distinguere ed approfondire.

IL ROBOT SOLDATO

robot-soldato-rendering-3d-mfrh8x

I robot soldato, cioè robot costruiti, addestrati impiegati in azioni belliche hanno lo scopo preciso di uccidere i nemici.I robot da guerra si inseriscono nel quadro del combattimento a distanza, che aumenta l’efficienza e ottunde la pietà nei confronti del nemico.

L’inserimento tra me e il nemico di un robot soldato aggiunge alla distanza fisica una distanza psicologica che colora la battaglia di indifferenza, di cinismo e di irresponsabilità.

Col tempo gli umani hanno sviluppato codici di comportamento nei confronti dei nemici o dei prigionieri che aprono isole di misericordia nell’ambito della crudeltà bellica.

Oggi si parla di FCS (Future Combat System)  per definire tutta una serie di strumenti dall’aviazione all’artiglieria in cui si va progressivamente delegando la scelta dell’azione bellica a questi sistemi e queste sono deleghe sulle decisioni che riguardano la vita e la morte di tante persone.

L’aspetto più importante è che la guerra è stata sempre una orrenda carneficina ma quando una parte non vede i propri uomini morire , non vede il sangue sporcare le proprie divise , allora ha un atteggiamento distaccato, ha un atteggiamento disumano perché si è appoggiato ed identificato con la macchina.

La questione etica della guerra come mezzo per risolvere i conflitti ha già una sua intrinseca negatività e la guerra dei robot la renderebbe più accettabile e conveniente rendendo ancora più probabile una catastrofe nucleare.

I nuovi robot intelligenti in prima linea con i soldati

I ROBOT DI COMPAGNIA

romeo-robot--1170x787

La Sony dal 1999 al 2006 ha prodotto 150.000 esemplari di un cane robot di nome Aibo.

Questo robot comunica con il padrone di cui riconosce la voce ed il volto e la sua personalità si sviluppa tramite l’interazione con le persone e risulta essere un compagno , specialmente per i bambini. Poi non sporca, non ha bisogno di cibo e si può disattivare quando non serve. I bambini , almeno molti , si affezionato secondo il meccanismo della proiezione -attribuzione affettiva che funziona quando l’altro è inanimato  e siamo noi che investiamo l’oggetto di una “proiezione affettiva”.

Il discorso non riguarda solo i bambini , si pensi al numero crescente di anziani le cui famiglie non vogliono o non possono dedicare loro tempo e attenzione e che vengono accuditi da robot badanti. La possibilità di sostituire, almeno in parte, i rapporti umani con i rapporti robotici conferma la grande capacità di proiezione affettiva degli uomini i quali tendono a interpretare azioni puramente meccaniche come comportamenti intelligenti e coloriti di sentimenti; in fondo viviamo di apparenze.

Siamo noi d’accordo ad accettare un robot come supporto ,non solo fisico, ma anche relazionale ?

I SEX ROBOT

1-kLwH--390x180@IlSecoloXIXWEB.jpg_f=detail_558&h=720&w=1280&$p$f$h$w=c0676f3

Tempo fa suscitò molto scalpore l’apertura a Torino di una “casa chiusa” in cui, al posto di persone in carne e ossa, si prostituivano dei robot in tutto e per tutto simili ad esseri umani.

In realtà, in quel caso in particolare, non si trattava di veri e propri robot ma di oggetti più simili a bambole gonfiabili di ottima fattura, ciononostante l’episodio è comunque da considerarsi molto importante perché ha, per la prima volta, permesso di parlare di uno scenario che di qui a breve diventerà sicuramente realtà.

Per parlare di sex robot occorre che ci siano tre caratteristiche

-esoscheletro capace di movimenti autonomi;

-una qualche intelligenza artificiale;

-sembianze umane (o umanoidi).

Sono molti gli aspetti da considerare anche sotto il piano etico.

L’uomo, probabilmente, nel momento in cui i sex robot avranno sembianze e movimenti da umano non avrà grossi problemi a innamorarsene. Viceversa, prima che il robot si innamori sarà necessario che l’intelligenza artificiale passi dall’essere una mera intelligenza razionale all’essere intelligenza emotiva. Non più solo calcoli ma anche emozioni quindi, come l’amore, l’affetto ma anche come l’odio la rabbia e la voglia di ribellarsi. 

Possiamo accettare che gli androidi diventino i nostri amanti ?

Aggiungo infine un articolo in cui si denuncia il problema etico del riconoscimento facciale per definire il profilo criminale di un essere umano con l’uso di software di intelligenza artificiale e nel quale si prende posizione sulle derive implicitamente e forse inconsapevolmente razziste insite in questi software.

CONCLUSIONI

Le cose fin qui dette evidenziano ancora una volta la necessità di riflettere insieme sulle sfide che il processo tecnologico ci impone, ed in particolare sugli aspetti specifici dell’intelligenza artificiale,  poiché la storia recente dimostra la capacità della tecnica di insinuarsi subdolamente in noi per strade insospettabili, creando forme di dipendenza e vere e proprie zone di anestesia nella nostra diffidenza e nel nostro distacco verso gli artefatti.

Riflettiamo su come si è modificata la nostra dimensione  sociale con l’uso degli smartphone e valutiamo la nostra dipendenza progressiva dallo strumento che amplifica enormemente la comunicazione ma può anche sostituire e distorcere le nostre relazioni affettive. I social network hanno modificato profondamente il concetto di relazione interpersonale e sono un fenomeno mondiale a cui pochi si sottraggono , non sono un male in sé ma hanno delle implicazioni etiche derivanti dalla profilazione e dall’amplificazione dell’effetto emotivo in una dimensione anonima che produce spesso tempeste emozionali deleterie.

Siamo noi che ci adattiamo alla tecnica e non viceversa e questo atteggiamento potrebbe , più che mai oggi, ridurci ad essere schiavi della tecnica.

Si potrebbe forse affermare,con una certa dose di pessimismo, che l’uomo è il mezzo di cui un computer si serve per costruire un altro computer.

Rispondi

Effettua il login con uno di questi metodi per inviare il tuo commento:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...