Nella quarta puntata di “Devs meet Ethics – Chi decide se sono cattivo?” è dedicata al social scoring, in senso molto ampio. Eccezionalmente questa puntata è stata condotta in solitario.
Cosa è il social scoring?
Il social scoring è l’attribuzione di un punteggio a un singolo individuo seguendo le sue idee e le sue azioni, sia pubbliche che private. Questo punteggio servirà per decidere se il soggetto analizzata supererà una soglia impostata per accedere o meno a dei servizi. Attenzione, non ci riferiamo ai social network, ma alla società tutta: alla vita online e offline.
Il social scoring è illegale?
In linea di massima, attribuire un punteggio di valutazione non è illegale. Ogni azienda ha il diritto di fare rispettare dei propri canoni di scelta, qualunque essi siano purché rispettino le leggi. Anzi, avere delle regole chiare e non discriminatorie aiuta a diminuire le storture, le raccomandazioni e gli errori. Il social scoring diventa illegale in molto modi, tra i principali vi sono:
- La persona è ignara del procedimento e non ha dato il suo consenso
- I dati privati dell’utente sono stati acquisiti in modo illegale
- Non c’è una data di retention (scadenza) nota dopo la quale i dati saranno cancellati
- Il punteggio di scoring è ignoto e l’impatto sulla vita della persona ne limita i suoi diritti fondamentali
Perché fa così paura?
In Cina, il governo ha già iniziato la classificazione dei suoi cittadini e il social scoring sarà un uso comune e legalizzato dal 2024. Ogni azione di un cittadino sarà valutata e riceverà un punteggio. Questo punteggio servirà per avere dei premi e delle sanzioni, anche se non è ben chiaro quando. Le sanzioni però sono già note:
- Espulsione dagli incarichi governativi di alto profilo
- Impossibilità di iscriversi alle università più prestigiose
- Decadenza del diritto di voto
- Grafi di parentele e amicizie che influiscono sul punteggio altrui.
Inoltre, l’accesso al punteggio potrà avvenire anche da soggetti privati come una banca o la vostra azienda. Si potrà quindi essere licenziati o non ricevere un mutuo senza possibilità di opporsi. Come una puntata di Black Mirror.
Quali sono i pericoli in Europa
La Comunità Europea ha già dichiarato da bandiera rossa il social scoring nelle sue linee guida sulla Intelligenza Artificiale. Ricordiamo come lo scandalo di Cambridge Analytica ha mostrato al mondo cosa è possibile fare raccogliendo informazioni in modo massivo e usandole in modo subdolo.
Chi decide se sono cattivo?
Per sapere di più, come per esempio l’uso da parte delle forze di polizia di un robot armato o la scelta di un drone di sparare un missile senza la conferma da parte del pilota siano tutti legati al concetto di social scoring e un numero, la soglia, che tira una linea netta tra i buoni e i cattivi. Nel caso del drone, poi, in caso di esito negativo non ci sarà appello.
