Kas tehisintellekt diskrimineerib? Algoritmide peidetud ohud ja kuidas neid vältida

„Me avastasime krediidiskoori mudelis sooliselt diskrimineeriva valemi, kus sugu ja vanus määrasid, kas inimene saab punkte juurde või maha. See polnud inimese tehtud otsus, vaid automatiseeritud süsteem, mis mõjutab otseselt näiteks seda, kas keegi saab poest järelmaksu või mitte,“ toob Veske näite saatest „Eetris on tehisintellekt“.

Justiits- ja digiministeeriumi nõunik Sofia Paes täiendab, et avalikus sektoris on käimas üle 150 AI-projekti ning riskide maandamine on kriitiline. „Tehnoloogia ise ei vali diskrimineerida, vaid see peegeldab andmeid, mida me talle anname. Oluline on leida tasakaal innovatsiooni ja inimõiguste kaitse vahel, eriti olukordades, kus süsteemid teevad inimeste üle kaalukaid otsuseid,“ selgitab Paes.

Saates tuleb juttu järgmistest teemadest:

Saatekülalised on soolise võrdõiguslikkuse ja võrdse kohtlemise volinik Christian Veske ning justiits- ja digiministeeriumi AI ja andmete talituse nõunik Sofia Paes.

Saadet juhib Tarmo Virki.

Rohkem infot algoritmilise diskrimineerimise ja kampaania kohta leiab veebilehelt algoritmotsustab.ee.