OASI, првиот пребарувач што ги пронајде алгоритмите што владите и компаниите ги користат за граѓаните

• Создадена од Фондацијата Етикас, Опсерваторијата за алгоритми со социјално влијание, ОАСИ, собира информации од десетици алгоритми што ги користат јавните администрации и компании ширум светот за да дознаат повеќе за нивното социјално влијание.
  
• Целта е да се даде пристап до јавноста до информации за владите и алгоритмите на компаниите и да се знае кој ги користи, кој ги развива, какви закани претставуваат и дали се ревидирани, меѓу другите карактеристики.

• Алгоритмската пристрасност и дискриминација обично се јавуваат врз основа на возраста, полот, расата или попреченоста, меѓу другите вредности, но поради општиот недостаток на транспарентност, с still уште не е можно да се знаат сите последици врз погодените групи.

Фондацијата Етикас, непрофитна организација која промовира одговорна употреба на алгоритми и системи за вештачка интелигенција (АИ), создаде Опсерваторија за алгоритми со социјално влијание (ОАСИ). Оваа Опсерваторија воведува пребарувач за да знае повеќе за алатките што донесуваат важни автоматски одлуки за граѓаните, потрошувачите и корисниците низ целиот свет.

Во моментов, и компаниите и Јавната администрација ги автоматизираат одлуките благодарение на алгоритмите. Меѓутоа, нејзиниот развој и пуштање во употреба не следи надворешни контроли на квалитетот, ниту е транспарентен како што треба, што го остава населението незаштитено. Со овој пребарувач, секој може да дознае повеќе за овие алгоритми: кој ги развил, кој ги користи, нивниот опсег на примена, дали се ревидирани, нивните цели или нивното социјално влијание и заканите што ги претставуваат.

Во моментот, OASI собира 57 алгоритми, но очекува да достигне 100 во следните месеци. Меѓу нив, 24 веќе се применуваат во САД од страна на Владата и компаниите Big Tech. На пример, ShotSpotter, алатка за алгоритми распоредена од полициската управа во Оукленд за борба и намалување на насилството со оружје преку микрофони за следење звук, и алгоритам за предвидување на потенцијална злоупотреба и занемарување на деца што се користи од округот Алегени, Пенсилванија. Друг пример од корпорацијата е Рекогниција, системот за препознавање лица на Амазон, кој беше ревидиран од страна на МИТ медиумската лабораторија во почетокот на 2019 година, и се покажа дека има значително полоши резултати при идентификување на полот на поединецот, доколку се жени или потемна кожа.

Најчеста дискриминација е врз основа на возраст, пол, раса или попреченост, произведени ненамерно од програмери кои немаат социо -економски вештини за да го разберат влијанието на оваа технологија. Во оваа смисла, овие инженери ги дизајнираат алгоритмите базирани само на технички вештини, и бидејќи нема надворешни контроли и се чини дека работи како што се очекуваше, алгоритмот продолжува да учи од недостаток на податоци.

Со оглед на недостатокот на транспарентност за функционирањето на некои од овие алгоритми, Фондацијата Етикас, освен лансирањето на ОАСИ, развива проект за надворешни ревизии. Првиот е VioGén, алгоритмот што го користеше шпанското Министерство за внатрешни работи за да додели ризик за жените кои бараат заштита откако претрпеле случаи на семејно насилство. Етикас ќе спроведе надворешна ревизија преку обратен инженеринг и административни податоци, интервјуа, извештаи или скрипти за дизајн, за да собере резултати во обем. Сето ова со цел откривање можности за подобрување на заштитата на овие жени.

„И покрај постоењето на алгоритамски методи за контрола и ревизија за да се осигура дека технологијата ги почитува сегашните регулативи и основни права, администрацијата и многу компании продолжуваат да ги слушаат барањата за транспарентност од граѓаните и институциите“, изјави Гема Галдон, основач на Фондацијата Етикас. На „Покрај ОАСИ, по неколку години во кои развивме повеќе од десетина ревизии за компании како Алфа Телефоника, Обединетите нации, Коа здравство или Интер-американска банка за развој, објавивме и Водич за алгоритамска ревизија, така дека секој може да ги изведе. Целта е секогаш да се подигне свеста, да се обезбеди транспарентност и да се врати довербата во технологијата, што само по себе не мора да биде штетно “.

Во оваа смисла, алгоритмите кои се обучени со техники за машинско учење користејќи голема количина историски податоци за да ги „научат“ да избираат врз основа на минатите одлуки. Обично овие податоци не се репрезентативни за социоекономската и културната реалност на која се применуваат, но во многу наврати тие одразуваат нефер ситуација која не е наменета да се овековечи. На овој начин, алгоритмот технички би донел „правилни“ одлуки според неговата обука, иако реалноста е дека неговите препораки или предвидувања се пристрасни или дискриминирани.

Маркетинг

За Фондацијата Етикас

Фондацијата Етикас работи за да ги преточи во технички спецификации принципите што го водат општеството, како што се еднакви можности, транспарентност и недискриминација кои се во технологиите што донесуваат автоматски одлуки за нашите животи. Таа бара рамнотежа помеѓу промените во општествените вредности, техничките можности за најновите достигнувања и правната рамка. За таа цел, врши ревизија на алгоритми, потврдува дека се применуваат законски гаранции за дигиталниот свет, особено за вештачката интелигенција, и спроведува интензивна работа за подигање на свеста и ширење на потребата за одговорна, квалитетна технологија.

Споделете ја оваа статија: