OSSERVATORIO

Mission

La sfida non è solo tecnologica, ma sociale. Si tratta di garantire che i sistemi algoritmici siano allineati ai valori umani, e ai principi etici, e che nelle loro realizzazione vengano coinvolte le persone, le organizzazioni, le aziende, e tutti gli attori che popolano gli ecosistemi socio-tecnici in cui vengono implementati.

Aziende e pubbliche amministrazioni usano con sempre più frequenza algoritmi per prendere decisioni sulle vite di clienti, utenti e cittadini. Gli algoritmi e i dati digitali che processano sono inestricabilmente intrecciati nel tessuto delle nostre società. Tanto è vero che si parla di una co-evoluzione di digitale e sociale in un mondo "sociodigitale".

L’osservatorio intende porre gli algoritmi e altri sistemi data intensive come oggetti di studio, focalizzando l’attenzione su alcuni aspetti del loro funzionamento che spesso vengono dati per scontati o del tutto ignorati.

Noi di FAST

Produciamo evidenze, attraverso l’uso delle tecniche di ricerca, sociale sugli impatti sociali, intenzionali e non, degli algoritmi;

analizziamo quando è possibile gli assemblaggi socio-tecnici in cui vengono costruiti e utilizzati i sistemi algoritmici;

e quando non è possibile conduciamo disegni sperimentali sui dati di training;

rileviamo le opinioni e gli atteggiamenti dei soggetti interessati (lavoratori, utenti, clienti, etc.);

esploriamo i valori e i significati individuali attribuiti agli algoritmi (es. quando l'algoritmo ha successo?);

realizziamo attività di ricerca partecipata con gli stakeholder;

stimiamo l'impatto degli algoritmi su una scala del valore umano.

La nostra ricerca non è fine a se stessa, ma contribuisce ad accrescere la consapevolezza e l’adozione di quadri di governance appropriati, e protocolli di valutazione condivisi e riconosciuti. Pertanto, promuoviamo:

la diffusione di cultura algoritmica nelle imprese e nelle organizzazioni;

la diffusione di consapevolezza algoritmica nella popolazione;

la formazione di figure interdisciplinari altamente specializzate capaci di valutare la qualità degli algoritmi e i loro effetti sulla società (algorithm auditor).