OASI, fyrsta leitarvélin til að finna reikniritin sem stjórnvöld og fyrirtæki nota á borgara

• Stofnað af Eticas Foundation, Observatory of Algorithms with Social Impact, OASI, safnar upplýsingum frá heilmikið af reikniritum sem stjórnvöld og fyrirtæki um allan heim nota til að læra meira um samfélagsleg áhrif þeirra.
  
• Markmiðið er að veita almenningi aðgang að upplýsingum um bæði stjórnvöld og reiknirit fyrirtækja og að vita hver notar þær, hver þróar þær, hvaða ógnir þeir tákna og hvort þær hafa verið endurskoðaðar, meðal annarra eiginleika.

• Skekkja og mismunun reiknirita kemur venjulega fram á grundvelli aldurs, kyns, kynþáttar eða fötlunar, meðal annarra gilda, en vegna almenns skorts á gagnsæi er enn ekki hægt að vita allar afleiðingar þess fyrir hópa sem verða fyrir áhrifum.

Eticas Foundation, samtök sem ekki eru rekin í hagnaðarskyni sem stuðla að ábyrgri notkun reiknirita og gervigreindarkerfa (AI), hafa stofnað Observatory of Algorithms with Social Impact (OASI). Þessi stjörnustöð kynnir leitarvél til að vita meira um þau tæki sem taka mikilvægar sjálfvirkar ákvarðanir um borgara, neytendur og notendur um allan heim.

Sem stendur gera bæði fyrirtæki og opinber stjórnvöld sjálfvirkar ákvarðanir þökk sé reikniritum. Hins vegar, þróun hennar og gangsetning fylgir ekki ytra gæðaeftirliti, né er hún eins gegnsæ og hún ætti að vera, sem gerir íbúana óvarða. Með þessari leitarvél getur hver sem er fundið út meira um þessar reiknirit: hver hefur þróað þær, hver notar þær, umfang þeirra, hvort þær hafa verið endurskoðaðar, markmið þeirra eða félagsleg áhrif og ógnirnar sem þeir eru fyrir.

Á því augnabliki, OASI safnar 57 reikniritum, en býst við að ná þeim 100 á næstu mánuðum. Þar á meðal eru 24 þegar notaðir í Bandaríkjunum af stjórnvöldum og Big Tech fyrirtækjum. Til dæmis ShotSpotter, reikniritstæki sem lögreglan í Oakland notar til að berjast gegn og draga úr byssuofbeldi með hljóðmælingu hljóðnemum og reiknirit til að spá fyrir um hugsanlega misnotkun og vanrækslu á börnum sem Allegheny County, Pennsylvania, notar. Annað dæmi frá fyrirtækjum er Rekognition, andlitsgreiningarkerfi Amazon, sem var endurskoðað af MIT Media Lab snemma árs 2019 og reyndist standa sig verulega verr þegar greint var frá kyni einstaklingsins ef það var kvenkyns eða dekkri.

Algengasta mismununin er vegna aldurs, kyns, kynþáttar eða fötlunar, framleitt óviljandi af verktaki sem skortir félagslega hagfræði til að skilja áhrif þessarar tækni. Í þessum skilningi hanna þessir verkfræðingar reikniritin eingöngu byggð á tæknilegri færni og þar sem engin utanaðkomandi stýring er til staðar og það virðist virka eins og búist var við, heldur reikniritið áfram að læra af gögnum sem eru ábótavant.

Í ljósi skorts á gagnsæi um virkni sumra þessara reiknirita er Eticas Foundation, fyrir utan upphaf OASI, að þróa verkefni utanaðkomandi úttektar. Sú fyrsta er VioGén, reikniritið sem spænska innanríkisráðuneytið notar til að úthluta áhættu fyrir konur sem leita verndar eftir að hafa orðið fyrir heimilisofbeldi. Eticas mun framkvæma utanaðkomandi úttekt með öfugtækni og stjórnunargögnum, viðtölum, skýrslum eða hönnunarforritum til að safna niðurstöðum í mælikvarða. Allt þetta með það að markmiði að greina tækifæri til úrbóta í verndun þessara kvenna.

„Þrátt fyrir tilvist reikniritstýringar og úttektaraðferða til að tryggja að tæknin virði gildandi reglugerðir og grundvallarréttindi, halda stjórnvöld og mörg fyrirtæki áfram að daufa eyrað fyrir beiðnum um gagnsæi frá borgurum og stofnunum,“ sagði Gemma Galdon, stofnandi Eticas Foundation . „Auk OASI, eftir nokkur ár þar sem við höfum þróað meira en tugi úttekta fyrir fyrirtæki eins og Alpha Telefónica, Sameinuðu þjóðirnar, Koa Health eða Inter-American Development Bank, höfum við einnig gefið út Guide to Algorithmic Audit svo að hver sem er getur framkvæmt þær. Markmiðið er alltaf að vekja athygli, veita gagnsæi og endurheimta traust á tækni, sem í sjálfu sér þarf ekki að vera skaðlegt.

Í þessum skilningi, reiknirit sem eru þjálfuð í tæknifræði vélanáms með því að nota mikið af sögulegum gögnum til að „kenna“ þeim að velja út frá fyrri ákvörðunum. Venjulega eru þessi gögn ekki táknræn fyrir félags -efnahagslegan og menningarlegan veruleika sem þeim er beitt á, en í mörgum tilvikum endurspegla þeir ósanngjarna stöðu sem ekki er ætlað að viðhalda. Þannig væri reikniritið tæknilega að taka „réttar“ ákvarðanir í samræmi við þjálfun sína, jafnvel þó að raunveruleikinn sé sá að tilmæli hans eða spár eru hlutdrægar eða mismunandi.

Fáðu

Um Eticas Foundation

Eticas Foundation vinnur að því að þýða í tæknilegar forskriftir meginreglurnar sem leiða samfélagið, svo sem jöfn tækifæri, gagnsæi og jafnræði sem felast í tækni sem tekur sjálfvirkar ákvarðanir um líf okkar. Það leitar jafnvægis milli breyttra samfélagslegra gilda, tæknilegra möguleika nýjustu framfara og lagaramma. Í þessu skyni skoðar það reiknirit, sannreynir að lagalegum ábyrgðum er beitt á stafræna heiminn, sérstaklega á gervigreind, og vinnur mikla vinnu við að vekja athygli og miðla þörfinni fyrir ábyrga, góða tækni.

Deildu þessari grein: