Pubblichiamo la trascrizione di un lungimirante intervento tenuto a fine Gennaio da una figura pubblica di ambito istituzionale rispetto agli “sviluppi” distopici in atto nel campo delle neuroscienze.
Dopo i ripetuti appelli di numerosi scienziati internazionali rispetto all’applicazione delle intelligenze artificiali alle armi da guerra automatiche e la penetrazione delle multinazionali biotecnologiche nel mercato miliardario generato dalla pandemia, attraverso la creazione digitale di materiale genetico sintetico inoculato nelle popolazioni come vaccino, riteniamo necessaria una attenta riflessione collettiva sulla traiettoria imboccata dalla nostra specie…
Giornata europea della protezione dei dati 2021
Convegno “Privacy e neurodiritti: la persona
al tempo delle neuroscienze”
28 gennaio 2021
Intervento di
Pasquale Stanzione
Presidente del Garante per la protezione dei dati personali
1. Un tempo complesso quale è il nostro difficilmente può essere contraddistinto in ragione di una sola, specifica caratteristica, che non ne esaurirebbe mai l’intrinseca ricchezza, varietà, eterogeneità degli aspetti e delle implicazioni. Ma tra i caratteri che connotano, in maniera più significativa e simbolica, nell’ora presente, il rapporto con la tecnica è, forse, il più rilevante, perché non tocca una sola dimensione del nostro vivere, ma le investe tutte, trasversalmente e alla radice, mutando lo sguardo prima ancora che il suo oggetto e delineando una diversa
antropologia e nuove domande di senso.
E se il potere della tecnica si era già manifestato, in tutta la sua pervasività, nel Novecento (la celebre lezione di Heidegger è del 1953), oggi assistiamo, con la rivoluzione del digitale e, soprattutto, dell’intelligenza artificiale, ad un passaggio epocale. Un passaggio in cui il superamento prometeico del limite finisce con il rovesciare, nel suo inverso, il mito antropocentrico dell’uomo dominatore della tecnica, considerata estensione del suo stesso Io.
Nel Frankestein di Mary Shelley l’uomo ricrea la vita da sé, recidendone ogni legame con il divino e finendo con il sottrarre alla natura il segreto della vita. L’ autonomia nella creazione carica l’uomo anche di una responsabilità nuova nei confronti di (e per ciò che) si è creato.
L’omicidio realizzato dalla creatura di Frankestein simboleggia, in fondo, i rischi del ‘dominio della tecnica’, evidenti mai come rispetto a una tecnologia, l’intelligenza artificiale, fondata proprio sulla mimesi (e persino il superamento!) della razionalità umana, capace di apprendere e, per questo, di autonomizzare buona parte della sua azione.
Non vi è, forse, esempio più plastico del capovolgimento del tradizionale interrogativo su cosa gli uomini possano fare della tecnica nel suo inverso: cosa la tecnica possa fare dell’uomo (Severino).
Ma nel solco delle – innumerevoli e sempre nuove -implicazioni ed applicazioni dell’intelligenza artificiale, quelle in ambito neuroscientifico e neurotecnologico aprono scenari davvero inesplorati, incidendo su un substrato, quello cerebrale, irriducibile a mera biologia, così forti essendo le connessioni tra attività neurologica, coscienza, identità.
E’, del resto, almeno a partire da Cartesio che l’identità, la soggettività, la stessa differenza dell’uomo (come singolo e come specie) viene identificata nel pensiero – il cogito ergo sum -, la cui proiezione organica è il cervello: limite invalicabile persino per il più coercitivo e totalitario dei poteri (che pur avesse tentato di orchestrare consensi e costruire culture), proprio perché correlato neurale della coscienza.
Ecco, quindi, che se la tecnica si spinge dove neppure il più pervasivo dei poteri statuali è potuto giungere, finisce con l’acquisire una potenza senza precedenti e con il superare il confine che nel pensiero greco separava l’ardire dalla hybris.
Tra i più significativi progetti neurotecnologici vi è quello (Neuralink) elaborato da Elon Musk per l’installazione, nel cervello, di chip che non solo consentiranno di contenere gli effetti di patologie neurodegenerative e di potenziare le capacità cognitive ma che, oltretutto, permetteranno di “salvare” i ricordi e“scaricarli su un altro corpo o robot”, amplificandoli o cancellandoli selettivamente.
2. E se, oggi, strumenti diagnostici avanzati quali la risonanza magnetica funzionale, possono decodificare diversi tipi di segnali cerebrali e correlati neurali di informazioni mentali, in un domani non lontano potranno accedere ai contenuti, leggendo i pensieri e influenzare così, addirittura, gli stati mentali e il comportamento, agendo direttamente sulla sfera neuropsicologica.
Queste ed altre forme di “brain reading”, fondate sull’analogia tra la decodificazione dei dati neurali e l’interpretazione funzionale, semantica, dei contenuti lasciano dunque intravedere la possibilità, almeno in un prossimo futuro, di analisi e “lettura” (ma anche condizionamento e persino predizione) di intenzioni, di emozioni, di asserzioni di verità o menzogna (il famoso “siero della verità” assurto a simbolo del divieto di utilizzo processuale di prove atipiche idonee a ledere la libertà morale della persona: art. 189 cpp).
Il rilevante incremento del potere epistemico di queste applicazioni neuroscientifiche e neurotecnologiche solleva alcuni interrogativi e riflessioni, su cui vorrei suggerire un confronto, essenzialmente su questi aspetti.
3. In primo luogo, va distinto l’uso strettamente terapeutico delle neurotecnologie dal loro utilizzo a fini di potenziamento cognitivo.
Positivo è indubbiamente l’uso che di tali tecniche si potrebbe fare, ad esempio, per la cura di malattie neurodegenerative, che va promosso secondo il diritto a fruire delle possibilità offerte dal progresso scientifico di cui all’art. 15 del Patto internazionale sui diritti economici, sociali e culturali.
Se tali innovazioni possano contribuire a contenere gli effetti invalidanti di determinate patologie, restituendo ai processi neurali la fisiologia e la funzionalità perdute, esse vanno certamente promosse, a tutela del diritto fondamentale alla salute, in tutta la complessità che ne caratterizza il significato (in tal senso sembra deporre anche il documento del Comitato Nazionale di Bioetica del 2010 “Neuroscienze ed esperimenti sull’uomo: osservazioni bioetiche”).
4. Ben più problematico è il ricorso a tali tecniche a fini di potenziamento cognitivo. Le attuali interfacce cervello-macchina per il controllo motorio già consentono non solo di amplificare capacità proprie dell’uomo, ma anche di fornirne ulteriori, trans-umane, quali il controllo telepatico di dispositivi.
Si tratta non tanto e non solo del “pendio scivoloso” e di una lettura rigorosa del principio di precauzione (Prometeo del resto è, etimologicamente, colui che pensa, oltre che vede in anticipo), quanto della definizione del limite oltre il quale non sia tollerabile andare, anche per non ingenerare nuove discriminazioni nei confronti di quanti potenziati non siano e non accettino di essere.
Del resto, non tutto ciò che è tecnicamente possibile è, infatti, anche giuridicamente lecito ed eticamente ammissibile, perché non possiamo fare tutto ciò che è possibile fare (Nietzsche).
Ogniqualvolta la scienza amplia la sfera delle possibilità, sorge il problema del katechon, del limite di ammissibilità e di sostenibilità etica, giuridica, sociale dell’innovazione.
Così, le neurotecnologie fondate sul brain reading in senso stretto e dunque con funzione essenzialmente analitico-descrittiva dei processi cerebrali, qualora dovessero effettivamente riuscire a decodificare i contenuti, avrebbero conseguenze principalmente sotto il profilo della trasparenza e visibilità del pensiero.
Esse attingerebbero, dunque, alla dimensione della segretezza del foro interno, la cui inaccessibilità è garantita in ogni ambito (dal processuale con il diritto al silenzio e l’esenzione dall’obbligo di dire la verità per l’imputato, all’elettorale con la segretezza del voto, sino al principio di materialità che esclude il mero pensiero, non estrinsecatosi in comportamenti sia pur solo verbali, dall’area del sanzionabile).
5. Le tecnologie capaci, invece, di apportare condizionamenti e modificazioni nel processo neurale, prospetterebbero invece un problema di libertà cognitiva come presupposto fondativo del diritto di autodeterminazione individuale.
Interventi di questo tipo sul processo cognitivo e finanche volitivo avrebbero, naturalmente, riflessi rilevantissimi in ogni campo della vita e del diritto ma, soprattutto, sul terreno della capacità di discernimento (quale parametro valutativo ormai centrale in ambito civilistico) e della stessa imputabilità penale, ben oltre il mero accertamento della suitas, della reale partecipazione psicologica del soggetto al fatto a lui ascritto.
Non si tratterebbe più soltanto del ricorso alle neuroscienze ai fini della valutazione della capacità d’intendere e volere dell’imputato, su cui le sentenze nei casi Bayout e Albertani segnano un punto di riflessione importante (1).
Per quanto indubbiamente problematica, infatti, persino l’assunzione delle lesioni organiche o funzionali della corteccia prefrontale tra i criteri valutativi dell’infermità mentale e, quindi, della capacità di discernimento, appare meno controvertibile di quanto sia invece la neurotecnologia invasiva.
Con essa, infatti, non si pone tanto il tema della “devianza genetica” e del “gene guerriero”, quanto della eterodeterminazione della condotta umana da parte dell’algoritmo, con la conseguente commistione, quasi indistinguibile, tra atti effettivamente imputabili alla volontà reale e non condizionata del soggetto e quelli, invece, ascrivibili all’algoritmo che quella volontà abbia alterato.
Il rischio, insomma, non è tanto e non è solo l’hackeraggio del cervello (prospettiva di un tale riduzionismo biologico da atterrire chiunque) quanto, prima ancora, la legittimità e l’ammissibilità etica di un intervento eteronomo sul processo cognitivo: il terreno sinora immune (sacer esto!) da ogni interferenza esterna.
La gravità di queste implicazioni sarebbe, naturalmente, ancora maggiore, laddove simili applicazioni neurotecnologiche venissero utilizzate al di fuori dell’ambito clinico (con le relative garanzie anzitutto deontologiche), come dimostra il programma d’interfacce cervello-computer elaborato da Facebook nel 2018, per condividere contenuti on-line direttamente con il pensiero, eludendo l’azione umana.
Saremmo, dunque, ben oltre il pur pervasivo neuromarketing, che segmenta il mercato secondo parametri psicometrici e modella l’offerta sulla base delle preferenze ascritte a ciascuno da sistemi di profilazione predittiva a carattere neuroscientifico.
6. La suggestione si combina pertanto con l’attitudine predittiva che è, del resto, uno dei tratti caratteristici della società dell’”anticipazione”, così definita per il pervasivo ricorso ad algoritmi capaci di prevedere il comportamento di ciascuno, secondo il profilo stilato sulla base del comportamento passato.
Riecheggia, in forma nuova, la distinzione tra persuasione, suggestione e soggezione psichica la cui insondabilità indusse la Consulta a dichiarare incostituzionale il reato di plagio nel noto caso Braibanti. Ma si profila una prospettiva ulteriormente riduzionistica, laddove il singolo è ridotto a mero elemento di un cluster, negandogli ogni residua individualità.
Con le neurotecnologie di brain reading ci si muove, naturalmente, su di un terreno ancor più scivoloso, in ragione dell’intervento diretto sul processo cognitivo e volitivo, per renderlo, in un futuro ormai prossimo, trasparente e almeno in parte manipolabile, con il rischio addirittura di uno sfruttamento a fini commerciali delle informazioni.
Si delinea, così, una congiunzione tra neuroscienze e capitalismo digitale – definita, con una crasi significativa, neurocapitalismo (Ienca) – idonea tuttavia a determinare implicazioni potenzialmente dirompenti sulla vita individuale e collettiva, di una pervasività tale da scardinare gli assunti fondativi dell’intero sistema delle garanzie costituzionali.
7. Siamo di fronte a una nuova antropologia, che esige una più profonda ed effettiva difesa della dignità dal rischio di un riduzionismo (non semplicemente biologico, ma) neurologico, capace di annullare conquiste di libertà ormai talmente risalenti e consolidate da essere ritenute di fatto acquisite.
Quale significato avrebbe, infatti, la tutela dell’intangibilità della sfera privata, in ogni sua articolazione, se, poi, i pensieri fossero leggibili e venisse così negata la riservatezza di quei “thoughts, emotions, sentiments and sensations” che già Warren e Brandeis, nel 1890, indicavano come fondamento essenziale del right to privacy? Può darsi realmente libertà se l’uomo, mediante la tecnica, diviene osservatore delle più intime percezioni, aspirazioni, volontà altrui (e persino proprie, se ignote)?
5
Analogo argomento può valere, del resto, per ogni altra garanzia democratica: dal diritto di difesa comprensivo, appunto anche del diritto al silenzio e dell’inammissibilità di prove lesive dell’autodeterminazione, al divieto di perizia criminologica, alla segretezza del voto, alla libertà confessionale, al pluralismo informativo, politico e via enumerando.
In uno scenario del genere – tutt’altro che asimoviano – emerge con forza l’esigenza di garantire, anche rispetto a tale nuova tipologia di rischi, l’inner world, il foro interno, l‘ Intimsphäre dalla cui libera formazione, gestione e sviluppo dipende ogni altra libertà.
Nessun esercizio di diritto o libertà potrebbe, infatti, mai dirsi tale se realizzato per effetto del condizionamento, anche soltanto indiretto o parziale, da parte delle neurotecnologie sul processo cognitivo. Né, del resto, realmente libera potrebbe mai ritenersi alcuna scelta o condotta realizzata nel timore della trasparenza, della leggibilità, financo della predittività dei propri pensieri, delle proprie intenzioni, delle proprie intime convinzioni, appunto.
Se, dunque, l’habeas corpus, nel proteggere fin nella sua corporeità la persona da atti coercitivi, ha rappresentato il fondamento dello Stato di diritto e l’habeas data – come diritto di autodeterminazione informativa – ha costituito il baricentro della tutela della persona nella società dell’informazione, l’habeas mentem dovrebbe allora rappresentare il fulcro di veri e propri neurodiritti.
Sia che si creino ad hoc, sia che siano desunti, con interpretazione evolutiva, dal sistema normativo vigente (come parrebbe preferibile), tali diritti – mai come in questo caso di libertà – rappresenterebbero l’argine essenziale rispetto alla deriva riduzionistica e neurodeterministica, scaturente da un uso improprio di queste innovazioni così dirompenti.
Intorno ai neurodiritti (e alla privacy, nella sua declinazione soprattutto informazionale) si dovrebbe delineare uno statuto giuridico ed etico essenziale in base al quale coniugare l’innovazione e il diritto a fruire dei benefici offerti dal progresso scientifico con la dignità della persona, intesa qui kantianamente come fine in sé.
La difesa dell’Io sovrano, per dirla con Musil, dovrebbe rappresentare il presupposto necessario per l’esercizio di ogni altro diritto di libertà, che esige anzitutto una libera e indipendente determinazione del soggetto. Il rischio, altrimenti, è che innovazioni scientifiche potenzialmente preziose per la cura di stati neurodegenerativi divengano lo strumento per rendere l’uomo, come ha scritto Foucault, un “caso”, una non-persona, l’individuo da addestrare o classificare, normalizzare o escludere.
Il dibattito di oggi, prima che risposte, vorrebbe suggerire domande su di un tema, quello dei neurodiritti, che segnerà il nostro futuro prossimo.
“L’albero della scienza non fu mai l’albero della vita”, asserisce il Manfred di Byron. Ha ragione, laddove intende che la vita contiene un’eccedenza che il riduzionismo scientifico non può comprendere; che la biografia non coincide con la biologia. Ma la scienza, se guidata dal diritto e dall’etica, può, restituendo fisiologia nella patologia, rendere la vita più umana e persino più giusta.
(1) In cui, ai fini della valutazione del vizio parziale di mente dell’imputato, sono stati effettuati imaging morfologico e cerebrale e test di genetica molecolare, finalizzati a evidenziare anche l’eventuale substrato biologico dei disturbi del comportamento, come se il delitto potesse ritenersi “scritto nei geni” del reo.
Photo by Bret Kavanaugh