Eftir þriggja daga „maraþon“ viðræður hafa formennska ráðsins og samningamenn Evrópuþingsins náð bráðabirgðasamkomulagi um tillöguna um samræmdar reglur um gervigreind (AI), svokallaða gervigreindarlög. Reglugerðardrögin miða að því að tryggja að gervigreind kerfi sem sett eru á evrópskan markað og notuð í ESB séu örugg og virði grundvallarréttindi og gildi ESB. Þessi tímamótatillaga miðar einnig að því að örva fjárfestingar og nýsköpun í gervigreind í Evrópu.
Þetta er sögulegt afrek og stór áfangi til framtíðar! Samningurinn í dag fjallar í raun um alþjóðlega áskorun í tækniumhverfi sem þróast hratt á lykilsviði fyrir framtíð samfélaga okkar og hagkerfa. Og í þessari viðleitni tókst okkur að halda ákaflega viðkvæmu jafnvægi: að efla nýsköpun og upptöku gervigreindar um alla Evrópu á sama tíma og við virðum að fullu grundvallarréttindi borgaranna. Carme Artigas, utanríkisráðherra Spánar fyrir stafræna væðingu og gervigreind.
Gervigreindargerðin er a flaggskip lagafrumkvæði með möguleika á að stuðla að þróun og upptöku öruggrar og áreiðanlegrar gervigreindar á innri markaði ESB, bæði af einkaaðilum og opinberum aðilum. Meginhugmyndin er að stjórna gervigreind út frá getu þess síðarnefnda til að valda samfélaginu skaða í kjölfar a 'áhættumiðað' nálgun: því meiri áhætta, því strangari reglur. Sem fyrsta lagafrumvarp sinnar tegundar í heiminum getur hún sett a alþjóðlegur staðall fyrir gervigreindarreglugerð í öðrum lögsagnarumdæmum, rétt eins og GDPR hefur gert, og stuðlar þannig að evrópskri nálgun á tæknireglugerð á heimsvísu.
Helstu þættir bráðabirgðasamningsins
Í samanburði við upphaflegu tillögu framkvæmdastjórnarinnar má draga saman helstu nýju þætti bráðabirgðasamningsins sem hér segir:
reglum um áhrifamikil gervigreind líkön til almennra nota sem getur valdið kerfisáhættu í framtíðinni, sem og í mikilli áhættu Gervigreindarkerfi
endurskoðað kerfi af stjórnarhætti með nokkurt framfylgdarvald á vettvangi ESB
framlenging á lista yfir bönn en með möguleika á að nota fjarlæg líffræðileg tölfræði auðkenning af hálfu löggæsluyfirvalda í almenningsrými, með fyrirvara um öryggisráðstafanir
betri verndun réttinda með skyldu þeirra sem birta áhættusöm gervigreindarkerfi til að sinna a mat á áhrifum á grundvallarréttindi áður en gervigreindarkerfi er tekið í notkun.
Nánar tiltekið nær bráðabirgðasamningurinn til eftirfarandi þátta:
Skilgreiningar og umfang
Til að tryggja að skilgreining gervigreindarkerfis gefur nægilega skýrar viðmiðanir til að greina gervigreind frá einfaldari hugbúnaðarkerfum, málamiðlunarsamningurinn samræmir skilgreininguna við þá nálgun sem OECD hefur lagt til.
Bráðabirgðasamningurinn skýrir einnig að reglugerðin gildir ekki um svið utan gildissviðs ESB-réttar og ætti ekki í neinum tilvikum að hafa áhrif á valdsvið aðildarríkja í þjóðaröryggi eða hvaða aðila sem er falin verkefni á þessu sviði. Ennfremur mun gervigreindargerðin ekki gilda um kerfi sem eru eingöngu notuð fyrir herinn or varnir tilgangi. Á sama hátt kveður samningurinn á um að reglugerðin ætti ekki við um gervigreind kerfi sem notuð eru eingöngu í þeim tilgangi að rannsóknir og nýsköpun, eða fyrir fólk sem notar gervigreind af ófaglegum ástæðum.
Fáðu
Flokkun gervigreindarkerfa sem áhættusöm og bönnuð gervigreind
Málamiðlunarsamningurinn gerir ráð fyrir a lárétt verndarlag, þar á meðal áhættuflokkun, til að tryggja að gervigreind kerfi sem ekki eru líkleg til að valda alvarlegum grundvallarréttindabrotum eða annarri verulegri áhættu séu ekki tekin upp. AI kerfi sem birtast eingöngu takmarkaða áhættu væri háð mjög ljósi gagnsæisskyldur, til dæmis að upplýsa að efnið hafi verið gervigreind, svo notendur geti tekið upplýstar ákvarðanir um frekari notkun.
Fjölbreytt úrval af mikil áhætta Gervigreindarkerfi yrðu leyfð, en háð settum kröfum og skyldum til að fá aðgang að markaði ESB. Þessar kröfur hafa verið skýrðar og lagaðar af meðlöggjafanum á þann hátt að þær eru fleiri tæknilega framkvæmanlegt og minna íþyngjandi fyrir hagsmunaaðila að fara eftir, til dæmis hvað varðar gæði gagna, eða í tengslum við tækniskjöl sem lítil og meðalstór fyrirtæki ættu að semja til að sýna fram á að áhættusöm gervigreindarkerfi þeirra uppfylli kröfurnar.
Þar sem gervigreind kerfi eru þróuð og dreift í gegnum flóknar virðiskeðjur, felur málamiðlunarsamningurinn í sér breytingar sem skýra úthlutun ábyrgðar og hlutverk hinna ýmsu leikara í þeim keðjum, einkum veitendum og notendum gervigreindarkerfa. Það skýrir einnig tengslin milli ábyrgðar samkvæmt AI-lögunum og ábyrgðar sem þegar eru til staðar samkvæmt annarri löggjöf, svo sem viðeigandi gagnavernd ESB eða geiralöggjöf.
Fyrir suma notkun gervigreindar er áhætta talin óásættanlegt og þess vegna verða þessi kerfi bönnuð frá ESB. Bráðabirgðasamningurinn bannar td vitræna hegðunarmeðferð, hinir ómarkvissu úreldingu af andlitsmyndum af internetinu eða CCTV myndefni, tilfinningaþekking á vinnustöðum og menntastofnunum, félagsleg stigagjöf, líffræðileg tölfræði flokkun að álykta um viðkvæm gögn, svo sem kynhneigð eða trúarskoðanir, og sum tilvik um forspárlöggæslu fyrir einstaklinga.
Undantekningar löggæslu
Miðað við sérstöðu löggæsluyfirvöld og nauðsyn þess að varðveita getu þeirra til að nota gervigreind í mikilvægu starfi sínu, voru samþykktar nokkrar breytingar á tillögu framkvæmdastjórnarinnar varðandi notkun gervigreindarkerfa í löggæslutilgangi. Með fyrirvara um viðeigandi verndarráðstafanir, þessum breytingum er ætlað að endurspegla nauðsyn þess að virða trúnað viðkvæmra rekstrargagna í tengslum við starfsemi þeirra. Til dæmis var innleidd neyðaraðferð sem gerir löggæslustofnunum kleift að setja upp áhættusamt gervigreindartæki sem hefur ekki staðist samræmismat málsmeðferð ef brýnt er. Hins vegar hefur sérstakt kerfi einnig verið kynnt til að tryggja það grundvallarréttindi verður nægilega varið gegn hugsanlegri misnotkun gervigreindarkerfa.
Þar að auki, hvað varðar notkun rauntíma fjarlæg líffræðileg tölfræði auðkenning kerfi í almenningi aðgengilegum rýmum, skýrir bráðabirgðasamningurinn markmiðin þar sem slík notkun er algjörlega nauðsynleg í löggæslutilgangi og fyrir hvaða löggæsluyfirvöld ættu því undantekningarlaust að vera heimilt að nota slík kerfi. Málamiðlunarsamningurinn gerir ráð fyrir viðbótarverndarráðstafanir og takmarkar þessar undantekningar við tilvik fórnarlamba ákveðinna glæpa, forvarnir gegn raunverulegum, núverandi eða fyrirsjáanlegum ógnum, svo sem hryðjuverkaárásum, og leit að fólki sem er grunað um alvarlegustu glæpi.
Almennt gervigreindarkerfi og grunnlíkön
Nýjum ákvæðum hefur verið bætt við til að taka tillit til aðstæðna þar sem hægt er að nota gervigreindarkerfi í mörgum mismunandi tilgangi (AI til almennra nota), og þar sem gervigreindartækni fyrir almenna notkun er síðan felld inn í annað áhættukerfi. Bráðabirgðasamningurinn tekur einnig á sérstökum tilvikum um gervigreindarkerfi til almennra nota (GPAI).
Einnig hefur verið samið um sérstakar reglur grunnlíkön, stór kerfi sem geta framkvæmt fjölbreytt úrval af sérstökum verkefnum á hæfileikaríkan hátt, svo sem að búa til myndband, texta, myndir, tala á hliðarmáli, tölvumál eða búa til tölvukóða. Bráðabirgðasamningurinn kveður á um að grunnlíkön verði að vera í samræmi við sérstakar gagnsæisskyldur áður en þau eru sett á markað. Tekið var upp strangara fyrirkomulag fyrir „mikil áhrif“ grunnlíkön. Þetta eru grunnlíkön sem eru þjálfuð með miklu magni gagna og með háþróaðan flókið, getu og frammistöðu langt yfir meðallagi, sem getur dreift kerfisáhættu eftir virðiskeðjunni.
Nýr stjórnunararkitektúr
Í kjölfar nýrra reglna um GPAI módel og augljósrar nauðsyn þess að framfylgja þeim á vettvangi ESB, an AI skrifstofu innan framkvæmdastjórnarinnar er sett á laggirnar með það hlutverk að hafa umsjón með þessum fullkomnustu gervigreindum líkönum, stuðla að því að efla staðla og prófunaraðferðir og framfylgja sameiginlegum reglum í öllum aðildarríkjum. A vísindanefnd óháðra sérfræðinga mun ráðleggja gervigreindarskrifstofunni um GPAI líkön, með því að leggja sitt af mörkum til þróunar aðferðafræði til að meta getu grunnlíkana, veita ráðgjöf um tilnefningu og tilkomu grunnlíkana með miklum áhrifum og fylgjast með mögulegri efnisöryggisáhættu sem tengist grunnlíkönum.
The Stjórn AI, sem myndi samanstanda af fulltrúum aðildarríkjanna, verður áfram sem samræmingarvettvangur og ráðgefandi aðili fyrir framkvæmdastjórnina og mun veita aðildarríkjunum mikilvægu hlutverki við innleiðingu reglugerðarinnar, þar með talið hönnun starfsreglna fyrir grunnlíkön. Að lokum, an ráðgjafarvettvangur fyrir hagsmunaaðila, svo sem fulltrúa iðnaðarins, lítil og meðalstór fyrirtæki, sprotafyrirtæki, borgaralegt samfélag og fræðasvið, verður sett á laggirnar til að veita stjórn gervigreindar tæknilega sérfræðiþekkingu.
viðurlög
Sektir vegna brota á gervigreindarlögum voru ákveðnar sem hlutfall af alþjóðlegri ársveltu hins brotlega fyrirtækis á fyrra fjárhagsári eða fyrirfram ákveðna upphæð, hvort sem er hærra. Þetta væri 35 milljónir evra eða 7% fyrir brot á bönnuðum gervigreindarforritum, 15 milljónir eða 3% fyrir brot á skyldum gervigreindarlaga og 7,5 milljónir eða 1,5% fyrir afhendingu rangra upplýsinga. Hins vegar gerir bráðabirgðasamningurinn ráð fyrir hlutfallslegri þak um stjórnvaldssektir fyrir lítil og meðalstór fyrirtæki og sprotafyrirtæki ef brotið er gegn ákvæðum gervigreindarlaganna.
Í málamiðlunarsamningnum kemur einnig skýrt fram að einstaklingur eða lögaðili geti borið fram kvörtun til viðkomandi markaðseftirlitsstofnun varðandi vanefndir á gervigreindarlögum og má búast við því að slík kvörtun verði meðhöndluð í samræmi við sérstaka verklagsreglur þess yfirvalds.
Gagnsæi og vernd grundvallarréttinda
Bráðabirgðasamningurinn kveður á um a mat á áhrifum á grundvallarréttindi áður en áhættusamt gervigreindarkerfi er sett á markað af dreifingaraðilum þess. Bráðabirgðasamningurinn gerir einnig ráð fyrir auknum gagnsæi varðandi notkun hættulegra gervigreindarkerfa. Einkum hefur sumum ákvæðum tillögu framkvæmdastjórnarinnar verið breytt til að gefa til kynna að tilteknum notendum gervigreindarkerfis með mikilli áhættu, sem eru opinberir aðilar, verði einnig skylt að skrá sig í gagnagrunnur ESB fyrir gervigreindarkerfi með mikla áhættu. Ennfremur er í nýbættum ákvæðum lögð áhersla á skyldu notenda tilfinningaþekkingarkerfi að upplýsa einstaklinga þegar þeir verða fyrir snertingu við slíkt kerfi.
Aðgerðir til stuðnings nýsköpun
Með það fyrir augum að skapa lagaumgjörð sem er nýsköpunarvænni og efla gagnreynt reglunám skulu ákvæði m.t.t. aðgerðir til stuðnings nýsköpun hafa verið verulega breyttar miðað við tillögu framkvæmdastjórnarinnar.
Sérstaklega hefur verið skýrt að gervigreind reglugerðarsandkassar, sem eiga að koma á stýrðu umhverfi fyrir þróun, prófun og löggildingu nýstárlegra gervigreindarkerfa, ættu einnig að leyfa prófun nýstárlegra gervigreindarkerfa við raunverulegar aðstæður. Ennfremur hefur verið bætt við nýjum ákvæðum sem heimila próf gervigreindarkerfa í raunverulegar aðstæður í heiminum, við sérstakar aðstæður og öryggisráðstafanir. Til að létta stjórnsýslubyrði smærri fyrirtækja inniheldur bráðabirgðasamningurinn lista yfir aðgerðir sem gera skal til að styðja slíka rekstraraðila og kveður á um takmarkaðar og skýrt tilgreindar undanþágur.
Gildistaka
Bráðabirgðasamningurinn kveður á um að gervigreindargerðin eigi að gilda tvö ár eftir gildistöku þess, með nokkrum undantekningum frá sérstökum ákvæðum.
Næstu skref
Í kjölfar bráðabirgðasamkomulagsins í dag verður unnið áfram á tæknilegum vettvangi á næstu vikum við að ganga frá smáatriðum nýju reglugerðarinnar. Forsetaembættið mun leggja málamiðlunartextann fyrir fulltrúa aðildarríkjanna (Coreper) til staðfestingar þegar þessari vinnu er lokið.
Allur textinn þarf að vera staðfestur af báðum stofnunum og gangast undir lögfræðilega endurskoðun fyrir formlega samþykkt af meðlöggjafanum.
Bakgrunnsupplýsingar
Tillaga framkvæmdastjórnarinnar, sem kynnt var í apríl 2021, er lykilþáttur í stefnu ESB til að stuðla að þróun og upptöku á innri markaði öruggrar og löglegs gervigreindar sem virðir grundvallarréttindi.
Tillagan fylgir áhættumiðaðri nálgun og setur samræmdan, láréttan lagaramma fyrir gervigreind sem miðar að því að tryggja réttaröryggi. Reglugerðardrögin miða að því að efla fjárfestingu og nýsköpun í gervigreind, efla stjórnun og skilvirka framfylgd gildandi laga um grundvallarréttindi og öryggi og auðvelda þróun á einum markaði fyrir gervigreindarforrit. Það helst í hendur við önnur frumkvæði, þar á meðal samræmda áætlun um gervigreind sem miðar að því að flýta fyrir fjárfestingu í gervigreind í Evrópu. Þann 6. desember 2022 náði ráðið samkomulagi um almenna nálgun (samningsumboð) í þessu skjali og hóf millistofnanaviðræður við Evrópuþingið („þríviðræður“) um miðjan júní 2023.
EU Reporter birtir greinar frá ýmsum utanaðkomandi aðilum sem lýsa margvíslegum sjónarmiðum. Afstaðan sem tekin er í þessum greinum er ekki endilega afstaða EU Reporter.
