L’intelligenza artificiale è ormai presente in quasi ogni area della nostra vita: Siri, Alexa, Cortana assistono quotidianamente migliaia di utenti a svolgere varie attività, dal controllo delle agende alla ricerca sul Web, alla domotica della casa.

La nostra salute è ormai monitorata costantemente dai bracciali o dagli smartwatch che sono sempre attivi al nostro polso, e che fedelmente ci aggiornano sul nostro stato di salute o sulla necessità di alzarci a fare due passi dopo aver passato troppo tempo seduti alla scrivania.

Ma cosa succede se demandiamo delle valutazioni prettamente umane a degli algoritmi? Se incarichiamo l’IA di fare valutazioni e non ci preoccupiamo di verificare gli effetti dei suoi calcoli?

E soprattutto, cosa succede se una IA si “ammala”, se viene infettata da un virus che la mette fuori uso, come capita a noi con una influenza?

La tecnologia sta inevitabilmente cambiando la società: la digitalizzazione sfida il modo in cui viviamo ed ormai questi cambiamenti creano una modifica sostanziale della realtà quotidiana che non era mai stata possibile prima.

In un momento in cui si tende, anche per motivi di tutela sanitaria, ad incaricare le macchine di fare calcoli e valutazioni, si dovrebbe prestare molta attenzione ai cyber attacchi a cui sono sottoposte le tecnologie a cui di fatto affidiamo le nostre vite. Le conseguenze per la poca cura che prestiamo all’ambiente digitale, e l’idea che un cyber attacco non tocchi la nostra “real life”, possono essere molto gravi.

Un tragico esempio che ci aiuta a riflettere su questi temi è quanto accaduto in Germania pochi giorni fa: una donna è deceduta dopo che un ospedale della città di Düsseldorf non è stato in grado di ammetterla al suo interno, perché i suoi sistemi erano stati messi fuori uso da un attacco informatico.

La paziente, affetta da una malattia pericolosa per la vita, è stata allontanata la notte dell’11 settembre dall’ospedale universitario della città ed è morta dopo che l’ambulanza che la trasportava è stata dirottata a Wuppertal, a 30 km di distanza.

Il procuratore Christoph Hebbecker, capo dell’unità crimine informatico a Colonia, ha affermato di aver aperto un’indagine per omicidio colposo contro persone sconosciute.

Non sapremo mai cosa sarebbe successo se il sistema informatico dell’ospedale fosse stato funzionante, e cosa sarebbe successo se fosse stato un medico a fare la valutazione sull’ammissione della donna nel nosocomio, però sappiamo che in questo caso la valutazione era stata demandata ad un software e che, in mancanza dell’intervento della macchina, è stato deciso di non decidere proprio perché la macchina non poteva presiedere alla decisione.

Viviamo ormai in un mondo in cui i sistemi non umani possono fare cose che in precedenza erano gestite dalle persone e certamente bisogna scendere a patti con una realtà in cui la capacità dei sistemi informatici continuerà inevitabilmente ad espandersi.

Se però, abbiamo scelto di convivere con una tecnologia che non si spegne mai, dobbiamo anche prenderci cura di lei, ed in ogni caso non dobbiamo dimenticarci di saper decidere anche senza di lei.

Visualizzazioni: 87