Zaskrbljujoč incident v Združenih državah Amerike ponazarja nevarnosti algoritemskega odločanja. Oboroženi policisti so pridržali 16-letnega dijaka, potem ko je sistem umetne inteligence vrečko čipsov Doritos napačno identificiral kot strelno orožje.

“Sliši se kot prizor iz distopičnega filma, a to je realnost.”

Tri ključne ugotovitve

  1. Algoritmična pristranost je inherentna. Sistemi odražajo predsodke in napake svojih ustvarjalcev, ne objektivnosti.

  2. Tehnologija ima omejitve. Avtomatizacija ne more in ne sme nadomestiti človeške presoje, zlasti v zadevah, ki vključujejo javno varnost in človeška življenja.

  3. Človeški nadzor je bistvenega pomena. Ko odločitve nosijo smrtno resne posledice, ostaja človeška presoja nepogrešljiva.

Prispevek zagovarja odgovornost pri uvajanju sistemov umetne inteligence, zlasti v organih pregona, kjer napake takoj povzročijo resne posledice.