Si va verso algoritmi pubblici?
Finora il sogno di sistemi automatici che garantiscano la piena imparzialità delle decisioni si è infranta contro la realtà: gli algoritmi ed i sistemi di intelligenza artificiale sono soggetti agli stessi bias cognitivi dei loro creatori, per cui ottenere un prestito, un lavoro, un qualunque beneficio è soggetto a valutazioni di razza, di religione, di professione che poco o nulla hanno a vedere con la sostanza, ovvero con la solidità finanziaria, la capacità di svolgere la mansione, il diritto ad accedere ad un contributo secondo parametri oggettivi e non soggettivi. Molto spesso, inoltre, neppure è dato sapere quali parametri vengono valutati, con quale peso all’interno del risultato finale, così da sapere Per contrastare questi problemi arriva una proposta di rendere pubblici questi algoritmi – anche se utilizzati da Società private – così da poter verificare che i parametri di valutazione siano congruenti e sapere cosa fare per poter rientrare nei limiti di approvazione. Per contro, è ovvio che un’azienda è molto restia a rendere pubblici i propri algoritmi, per cui occorrerà trovare un compromesso fra la necessità di conoscenza e la protezione del know-how aziendale.
