Nella seconda parte dell’analisi della pronuncia del Tribunale di Bologna nei confronti della società Deliveroo Italia (qui la prima parte), affronteremo alcuni aspetti connessi alla profilazione e alla protezione dei dati personali.

In realtà i riferimenti a questi due aspetti sono assenti dal provvedimento giudiziario, ed è una mancanza che fa notizia, come hanno anche subito rilevato alcuni tra i massimi esperti in materia.

Ricordiamo brevemente che i risultati dell’algoritmo utilizzato dalla società per assegnare ai lavoratori gli slots di lavoro sono stati ritenuti discriminatori, ma è nel Regolamento GDPR che si ritrovano le norme positive (uniche fino ad oggi in Europa) che disciplinano i processi decisionali automatizzati: stiamo parlando delle norme che dispongono il divieto di trattamento decisionale automatizzato senza consenso, a cui sono correlati a carico del Titolare particolari oneri informativi, diretti ad assicurare all’interessato il più ampio potere di controllo possibile sull’utilizzo dei propri dati.

Tra gli obblighi per il titolare c’è anche quello di garantire all’interessato il diritto di esprimere la propria opinione e di contestare la decisione automatizzata ottenendo l’intervento umano e avendo la possibilità di esprimere il proprio punto di vista e contestare la decisione, con adeguate motivazioni.

Su questo punto è interessante notare che Frank – l’algoritmo utilizzato – era programmato per prevedere delle deroghe in casi specifici (ad esempio un infortunio) in cui erano previsti interventi correttivi ai calcoli eseguiti. Questo vuol dire che l’algoritmo poteva fare valutazioni differenti di determinate situazioni, ma che l’azienda ha scelto di porre sullo stesso piano tutte le motivazioni – tranne l’infortunio sul lavoro e la causa imputabile al datore di lavoro (come il malfunzionamento della app) –, ed è proprio tale rilievo che appare decisivo nella valutazione di comportamento discriminatorio ravvisato dai giudici.

Emerge dunque la non conformità dell’operato della società anche agli articoli del Regolamento GDPR che prevedono, in caso di procedimenti automatizzati, sia la specifica indicazione dell’esistenza dei processi decisionali, sia l’obbligo di fornire informazioni significative sulla logica utilizzata, nonché l’importanza e le e le conseguenze di tale trattamento per l’interessato.

C’erano quindi degli accorgimenti tecnici che sarebbero stati utilizzabili da Deliveroo per evitare effetti discriminatori dettati dall’uso di Frank: così come aumentare conoscenza e comprensibilità dell’algoritmo avrebbe contribuito ad impedire, o quantomeno mitigare, effetti discriminatori.

Visualizzazioni: 92