Di tecnopositivismi, positività e medicə che scrivono coi piedi
Signo' ma qui che c'è scritto, su 'sta ricetta? Ci legge lei?
(Scrivo da una breve e del tutto contemporanea reclusione dovuta a autoisolamento, bear with me…)
Ammettiamolo, orsù.
Alzi la mano chi non ha avuto la tentazione di fare una battuta, almeno una volta, sulla calligrafia – che, ricordiamolo, comunque significa la bella grafia in greco – con cui sono scritte le nostre prescrizioni mediche.
Chi non ha chiesto una mano a decifrarle?
Come sospettavo, pochissime le mani alzate. 😅
È abbastanza comune, infatti, che le grafie utilizzate dal personale medico siano piuttosto incomprensibili, questo è decisamente un problema diffuso, oserei dire comune.
A quanto pare anche transcontinentale.
Lo lasciamo un attimo qui, fermentare, lo riprendo fra un po’.
reCaptcha e letterature: croce e delizia
Sarà stato grossomodo il 2005, ero in vacanza a casa di un’amica, a Rapallo e stavo leggendo un numero di Internazionale, versione cartacea all’epoca.
Riportava la notizia per cui Google, con il suo Print Library Project, si stesse offrendo e preoccupando di digitalizzare un patrimonio culturale, in quel momento tutto cartaceo - quindi deperibile -, a proprie spese. L’opinione riportata nell’articolo era quella per cui questa operazione fosse strumentale al miglioramento degli algoritmi di riconoscimento del testo, i cosidetti OCR - Optical Character Recognition, già allora basati su sistemi di apprendimento automatico, anche detto Machine Learning, per alcuni Intelligenza Artificiale.
Stiamo parlando di 17 (diciassette) anni fa e sì, già si parlava di AI e già era chiaro che per farla funzionare servissero una montagna di dati, talmente tanti che Google aveva deciso di investire in un progetto così ambizioso e apparentemente filantropico.
Nello stesso articolo si parlava di un altro capolavoro, di crowdsourcing1 in questo caso, sempre "perpetrato" da Google stessa: il reCaptcha.
Rieccomi con il giochino: quanti tra voi hanno già visto quest’immagine?
Non poche mani, stavolta… Ma ci avete pensato a quale fosse il razionale dietro questa strategia? Una macchina non era in grado di capire e leggere quelle lettere, per questo non sarebbe stata capace di aggirare la richiesta di credenziali e bypassare questo blocco.
Qui arriva il genio: “… facciamo che l’immissione delle lettere corrette, oltre a provare che chi le inserisce è in effetti una persona, allena anche l’algoritmo che così diventa sempre più capace di riconoscere da solo questi caratteri”.
In pratica, quando Skynet distruggerà tutte le persone del pianeta, la colpa sarà stata anche dei nostri tentativi riusciti di login. Avvincente vero? 😅
Dice, che c’entra? Ora provo il volo pindarico.
Google Lens e le promesse attraenti
Insomma pare che sempre i nostri cari amici di Big G, abbiano lanciato un programma di sperimentazione per cui attraverso l’uso di Google Lens, ovvero la capacità di usare la camera di uno smartphone e le potenti reti di Google stessa, si possa inquadrare una prescrizione medica e interpretare, grazie a questo aiuto, il contenuto per fare in modo che le persone possano seguire in maniera corretta le terapie che i propri medici, incapaci di scrivere in maniera comprensibile, gli hanno prescritto.
L’avanzamento è notevole, i rischi ridotti anche: pensateci un secondo a quante posologie sbagliate, medicine erronee, visite inopportune possono essere capitate nella vita delle persone, semplicemente perché questa semplice attività umana può aver portato? (Ad onor del vero, la sappiamo fare sempre meno, ma per ora lasciamola da parte)
Sembra proprio uno di quei casi in cui la tecnologia viene in soccorso delle persone, risolvendo un pezzo della loro vita. Ce ne sono tanti di esempi così, anche belli. Mi aveva quasi convinto.
Quasi, però.
Google services senza essere loggati?
Cos’è che ho appena scritto? Attraverso la camera dello smartphone e le potenti reti neurali di Google stessa, giusto?
E come ci finisce una foto nelle reti neurali? Semplice ce l’uploado.
Quanti servizi di Google ricordate che si possono utilizzare senza un Google account, a parte il motore di ricerca?
Esattamente. Nessuno.
Significa, quindi, che se il progetto venisse espanso su scala più grande, potremmo avere il più gigantesco sistema di schedatura di dati sensibili.
Prima che mi diate del pazzo paranoico, fatemi finire il ragionamento.
Prendiamo una ricetta qualunque. Utilizzando questo tipo di servizio, una qualsiasi persona darà in pasto al proprio account Google, non solo la propria posta elettronica (già sufficientemente cringe, grazie), la posizione e il proprio storico di ricerca, ma anche la lista dei medicinali e delle analisi che gli viene prescritto, le prognosi e referti scritti a mano da un medico poco tecnologico, magari unito con lo storico degli acquisti di abbigliamento.
Questi ultimi dati sono propriamente quelli definiti sensibili, dati che, a regola di bazzica non dovrebbero essere condivisi da nessuno e con nessuno, a parte il proprio medico.
Mi si può dire: certo, ma in questo è la persona che volontariamente condivide questi dati con un servizio tecnologico, non c’entra la tecnologia…
Apprendimento automatico e non solo…
Il problema della tecnologia non neutra non lo affronto qui, ma vi faccio uno spoiler: è una scemenza, non è vero affatto che la tecnologia non sia neutra e ci sono centinaia di esempi. Non mi dilungo.
È assolutamente chiaro che lo scopo principale di avere a disposizione questa mole di dati, sia quello di permettere alle persone di avere più comprensione delle prescrizioni mediche e che non ci sia assolutamente dolo diretto.
Mi limito a scrivere una cosa diversa, però.
La disponibilità di questi dati, acquisiti da Google che ha come modello di business quello dell’advertising e della cessione dei nostri dati a terze parti, dovrebbe impensierirci. Anche solo fosse un effetto collaterale.
Mi vengono in mente esempi sempre più tetri e potenzialmente pericolosi, a partire dalla condivisione di questi dati stessi con le famigerate case farmaceutiche produttrici degli stessi farmaci, fino all’estremo possibile caso raccontato da Cecilia Sala nel suo Stories, Ep.123, a proposito della anche lei famigerata sentenza della corte costituzionale Roe v. Wade.
In alcuni stati federali americani, in cui l’interruzione volontaria di gravidanza (IVG) è stata equiparata all’omicidio, molte persone hanno cominciato a cancellare le proprie app per monitorare il ciclo mestruale. Perché? Perché se l’autorità giudiziaria chiede alle aziende dietro queste app di condividere con loro il diario di questi dati, da cui si può desumere che una persona prima ha avuto un ritardo nel ciclo mestruale, poi lo ha avuto di nuovo normale e, ad esempio, ha fatto visita a qualche clinica per l’IVG anche al di fuori dallo stato stesso, queste persone possono essere incriminate per omicidio volontario – per legge, secondo quello stato di diritto, quindi in maniera del tutto inoppugnabile dal punto di vista legale.
Come possano sapere se hanno fatto visita a queste cliniche? Beh ad esempio tramite la cronologia di ricerca di Google Maps.
Questa storia ha fatto sufficientemente rumore per convincere Google ha dichiarare che avrebbe cancellato, ma ovviamente continuato a tracciare, le visite a queste cliniche.
Tornando al nostro progetto di acquisizione delle prescrizioni, queste conterranno oltre alla lista delle cose da fare, analisi da eseguire, etc. anche delle date, forse dei dati anagrafici.
Insomma un certo numero di cose che, unite alle altre che rappresentano il nostro IO digitale, sono direttamente riconducibili a noi come persone e che sarebbe meglio ne fossimo pienamente titolari.
Ma perché, tu non la vuoi la tecnologia in campo medico?
Mi vedo già il commento sagace “eh ma oramai i medici fanno le ricette elettroniche, Google arriva tardi”.
Chiaramente la questione non è questa.
Quello di cui dovremmo sempre più consapevoli è che dovremmo facilitare e favorire sistemi di applicazione tecnologica che possano diventare non solo resistenti o resilienti nei confronti di potenziali abusi, ma piuttosto diventare antifragili ovvero capaci di modificarsi e migliorare a fronte di sollecitazioni, fattori di stress, volatilità, disordine, come mirabile suggerisce Nassim Nicholas Tale, nel suo libro Antifragile appunto.
Da questo punto di vista un esempio sicuramente più virtuoso in ottica privacy è stato il vituperato Green Pass di recente memoria, rispetto a questo.
Ma anche il framework di comunicazione criptato che presentò Apple alcuni anni fa.
Quindi, da noi che vuoi ora?
Perché ho scritto questo pezzo, dite?
A parte che l’ho scritto perché mi annoio in autoisolamento da COVID, dopo aver perso alla fine di una cavalcata di quasi due anni gli Hunger Games e aver contratto alla fine anche io questo virus, l’ho scritto perché ho cominciato a vedere fiorire i primi articoli incensanti la tecnologia e il saluto al sol dell’avvenire che ci salverà da ogni male, purché sia fatto di silicio e intelligenze artificiali.
Il limite di questi articoli è sempre stato - e probabilmente sarà ancora - quello di non riflettere quasi mai criticamente sulle implicazioni che possono accadere, prima che accadono.
Un difetto congenito di capacità di visione e di ragionamento da parte delle persone che, per il loro stesso mestiere, potrebbero e dovrebbero aiutarci a ragionare meglio.
E anche perché, ma è un’altra storia per un’altra notte, siamo diventati un po’ troppo problem solver invece che problem seeker.
The practice of obtaining information or input into a task or project by enlisting the services of a large number of people, either paid or unpaid, typically via the internet.