Data Science ?i AI au o mare varietate de aplica?ii cu impact social pozitiv. De exemplu, data science este util? pentru a investiga modul în care re?elele sociale influen?eaz? drepturile omului. Pe de alt? parte, data science ?i aplica?iile AI implic?, de asemenea, riscuri pentru s?n?tate, siguran??, mediu ?i drepturile omului. Prejudec??ile ?i discriminarea, preocup?rile legate de confiden?ialitate ?i efectele nocive asupra mediului sunt doar câteva dintre efectele posibile.

Pentru a ne asigura c? aplica?iile de data science aduc beneficii oamenilor ?i planetei, este necesar s? se în?eleag? atât capacit??ile, cât ?i riscurile acestora. În acest curs, vor fi introduse ambele aspecte ?i, de asemenea, vor fi introduse ?i unele metode de adresare a riscurilor.
 

Exemple din industrie

Barometro dell‘Odio:  Monitorizare anual? a campaniilor Social Media din 2018.  

Care este tonul discursului online, în special al discu?iilor politice ?i legate de drepturile omului? În ce m?sur? intoleran?a ?i discriminarea modeleaz? peisajul re?elelor sociale ?i care este impactul asupra grupurilor dezavantajate?

Data Science în serviciul evalu?rii impactului asupra drepturilor omului.

Modalit??i:

Prejudecat?, discriminare, stereotipuri … 

Aplica?iile Data science nu sunt  nici obiective, nici neutre:

De la utilizarea robo?ilor pentru a crea nuduri deepfake nudes peTelegram, generarea de avatare sexualizate ale femeilor (dar nu ale b?rba?ilor), nedezvoltarea de func?ionalit??i  utile unui anumit grup de persoane sau subminarea identit??ii de gen prin clasificare binar?, aplica?iile Data Science pot provoca daune.

Algoritmii de clasificare de gen care utilizeaz? recunoa?terea facial?, clasificau în mod frecvent gre?it femeile cu pielea mai închis? decât b?rba?ii (?i femeile) cu pielea mai deschis?. Acest lucru se datora faptului c? seturile de date pe care modelele investigate de Joy Buolamwini ?i Timnit Gebru au fost instruite con?ineau o pondere dispropor?ionat? de imagini cu b?rba?i ?i femei cu pielea deschis? la culoare.  Cite?te aici studiul din 2018 al celor doi speciali?ti în analiza datelor!

Algoritmii utiliza?i pentru a detecta discursul ofensator pe platformele online aveau mai multe ?anse s? clasifice tiparele de vorbire comune în rândul americanilor de culoare ca fiind ofensatoare – iar seturile de date au afi?at, în mod similar, o p?rtinire larg r?spândit? fa?? de engleza afro-american?. Aceasta arat? cât de important? este etichetarea setului de date: dac? datele sunt etichetate într-un mod p?rtinitor, rezultatele vor fi ?i ele p?rtinitoare. Cite?te aici articolul din 2019 ?i cele dou? studii la care face referire!

 

În plus, aplica?iile Data Science pot consuma foarte mult date, implicând diferite probleme:

ØConfiden?ialitate

ØProtec?ia datelor 

ØCalitate slab? a datelor (”garbage in, garbage out”)

 

 

Etic? – Ghiduri

 

•OECD https://www.oecd.ai/ai-principles

•UNESCO:  https://en.unesco.org/news/unesco-launches-worldwide-online-public-consultation-ethics-artificial-intelligence

•UNICEF:  https://www.unicef.org/globalinsight/reports/policy-guidance-ai-children

•EU:  https://ec.europa.eu/info/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en

•Microsoft AETHER:  https://www.microsoft.com/en-us/ai/responsible-ai

•Google fostul Comitet de etic?:  https://www.reuters.com/article/us-alphabet-google-ai-idUSKCN1RH00S 

•Partnership on AI:  https://www.partnershiponai.org/

•... Peste 80 de ghiduri de etic? sunt disponibile ast?zi

 

Etic? – Ghiduri

Frumos, dar s? discut?m când devin obligatorii...

 

 

HLEG UE a stabilit urm?toarele caracteristici ale unui sistem de AI de încredere, bazat pe Carta drepturilor fundamentale a UE:
(1) agen?ie uman? ?i supraveghere, 

(2) robuste?e tehnic? ?i siguran??, 

(3) confiden?ialitate ?i guvernan?a datelor, 

(4) transparen??, 

(5) diversitate, nediscriminare ?i corectitudine, 

(6) bun?starea mediului ?i a societ??ii ?i 

(7) responsabilitate

în contextul Data Science ?i al înv???rii automate în general, multe defini?ii diferite ale p?rtinirii se întâlnesc ?i se pot contrazice (utilizare colocvial? vs. Statistic? vs. Deep Learning)
În contextul unui AI de încredere, vom considera p?rtinirea (bias) drept o prejudecat? care favorizeaz? un grup în detrimentul altuia.

Corectitudinea grupului

Paritate statistic? condi?ionat?

Rata de eroare fals pozitiv?

Rata de eroare fals negativ?

Rata de acurate?e a utiliz?rii condi?ionate

Rata de acurate?e general?

Corectitudinea testelor

Calibrarea corect?

Echitate prin necon?tientizare

Corectitudine contrafactual?    ... ?i multe altele ...

Propor?ia de riscuri ridicate prezise corect este aceea?i, indiferent de criteriile demografice

Paritate predictiv?

(Toate grupurile au aceea?i PPV)

În cadrul fiec?rei categorii de risc real, procentul de predic?ii false este egal pentru fiecare grup demografic

Cote egalizate

(Toate grupurile au acela?i FNR ?i acela?i FPR)

Ce defini?ie ai spune c? este echitabil??

Ce se întâmpl? când prevalen?a riscului ridicat este mai mare pentru un grup decât pentru altul?

Dac? p este propor?ia indivizilor cu risc ridicat în popula?ie:

.... Atunci aceast? formula ne spune c? nu putem avea

atât cote egalizate, cât ?i paritate predictiv?

Pentru a în?elege de ce, s? presupunem c? atât cotele egalizate, cât ?i paritatea predictiv? sunt adev?rate. Introduce?i în formul? ?i câteva elemente de algebr? v? vor ar?ta c? atunci prevalen?a p ar trebui s? fie aceea?i pentru ambele popula?ii ... 

S? ne amintim un exemplu larg dezb?tut:

În mai 2016, ProPublica a publicat un articol care indica faptul c? predic?iile realizate de un model larg r?spândit pentru recidivism (COMPAS), erau p?rtinitoare:
https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

Pentru explica?ii în detaliu, vezi: