Gegužės 18–20 d. Vilniaus universitete vykusiame „Arqus“ forume „FinTech: Finance, Technology & Regulation“ dalyvavo 54 mokslininkai iš „Arqus“ aljanso partnerių universitetų (Ispanijos, Prancūzijos, Austrijos, Lenkijos, Italijos, Lietuvos) ir kitų šalių, taip pat finansų technologijų sektoriaus atstovai. Forumas buvo organizuotas pagal „Arqus“ tyrimų ir inovacijų projektą.
Forume buvo aptartas platus temų laukas, įskaitant Europos finansų technologijų politiką ir jai kylančias rizikas, reguliavimo strategijas, saugumo ir privatumo sprendimus, skaitmeninę transformaciją bankų, investicijų, draudimo, aplinkosaugos, sveikatos apsaugos ir kituose sektoriuose.
Forume dalyvavo ir finansų technologijų atstovai: Inga Karulaitytė-Kvainauskienė, reguliavimo ekspertė ir „FintechHub LT“ valdybos narė, Andrius Ramoška, „FINTECH Lithuania / Infobalt“ narys, vienas iš „Soverio“ įkūrėjų ir direktorius, Andrius Petkevičius, „Blockchain CyberSecurity Compliance Solutions“ klasterio direktorius, Emilia Chehtova, Inovacijų ir prieigos prie finansų politikos formavimo pareigūnė Europos Komisijoje, Stéphane Ouaki iš Europos inovacijų tarybos ir MVĮ reikalų vykdomosios įstaigos ir kiti.
Forume paskaitą apie optimalų virtualaus turto pasirinkimą skaitė kviestinis lektorius profesorius Andrejus Kirilenko, Kembridžo universiteto Finansų, technologijų ir reguliavimo centro direktorius.
Prof. dr. Simonas Chestermanas / J. Auškelio nuotr.
Tarp kviestinių lektorių buvo ir profesorius Simonas Chestermanas, Singapūro nacionalinio universiteto Teisės fakulteto dekanas ir nacionalinės Singapūro dirbtinio intelekto programos dirbtinio intelekto valdymo vyresnysis direktorius. Jis skaitė pranešimą „Mes, robotai? Ar, kada ir kaip reguliuoti dirbtinį intelektą?“.
Šis renginys – keturių „Arqus“ forumų ciklo dalis. Pirmasis jų „Klimato rizikos besikeičiančiame pasaulyje“ vyko balandžio 26–28 d. Grace (Austrija). Šie forumai skirti dirbtiniam intelektui ir skaitmeninei transformacijai (Vilniaus ir Liono renginiai) bei Žaliajam kursui / klimato kaitai (Graco ir Bergeno renginiai). Šios tarpdisciplininės sritys yra prioritetinės siekiant glaudesnio bendradarbiavimo tyrimų srityje.
Dalyviams šio ir kitų forumų formatas yra naujas, nes turi verslo kontaktų renginio (angl. brokerage event) ir tinklų užmezgimo renginio (angl. networking) elementų. Forumo metu tyrėjai ir verslo atstovai pristatė save, savo veiklos sritis ir interesus, patirtį dalyvaujant ir įgyvendinant tyrimų ir inovacijų projektus.
Forumo dalyviams buvo pristatyti Europos Komisijos pasiūlymai („Europos Horizontas“, Vidaus saugumo fondas, Skaitmeninės Europos programos, Europos inovacijų tarybos instrumentai), jie diskutavo apie bendrų tyrimų projektų plėtrą.
Be to, dalyviams buvo pristatyta būsima iniciatyva „Seed funding“, kuri leis remti konsorciumų ir kitų veiklų, reikalingų rengiant konkurencingus bendrus projektus, organizavimą. Kvietimas į šią iniciatyvą bus paskelbtas 2022-ųjų birželį.
Vadovaudamasis identifikuotais bendrų tyrimų interesais, „Arqus“ siekia sukurti kartu besimokančią bendruomenę. Remdamiesi geresniu „Arqus“ partnerių universitetų ir tyrimų grupių supratimu, partnerių universitetai bus skatinami plėtoti bendrus tyrimų projektus. Liono (Prancūzija) renginys apie dirbtinį intelektą ir skaitmenizaciją rengiamas 2022 m. birželio 1–3 d., o Bergeno (Norvegijos) forumas apie klimato kaitą vyks 2022 m. birželio 8–9 d.
Forumas apie finansų technologijas / J. Auškelio nuotr.
Trūksta skaidrumo
Forume pranešimą skaitęs prof. S. Chestermanas teigė, kad dirbtinio intelekto (DI) reguliavimas susiduria su iššūkiais, susijusiais su jo greičiu, autonomija ir neskaidrumu. Pasak profesoriaus, būtina nustatyti DI reguliavimo taisykles, susijusias su žmogiškuoju valdymu ir skaidrumu.
Apskritai naujos technologijos nuolat kelia teisinių iššūkių, tačiau bandant reguliuoti DI susiduriama su tam tikrais specifiniais iššūkiais.
Pirmąjį iššūkį, susijusį su DI greičiu, galėtų iliustruoti 2010 m. Jungtinėse Valstijose įvykusi trilijono dolerių griūtis, dar vadinama 2:45 griūtimi arba Juoduoju ketvirtadieniu. Griūtis truko tik 36 minutes.
2015 m. Navinderas Singhas Sarao buvo areštuotas už tai, kad tariamai naudojo automatizuotą didelių pardavimo užsakymų generavimo programą mažindamas kainas, o vėliau juos atšaukė, kad nusipirktų žemesnėmis rinkos kainomis. Jis buvo nuteistas 2020 m.
Profesorius aiškina, kad perkant ir parduodant akcijas žmogui ir mašinai galioja tos pačios taisyklės.
„Tačiau 2020 m. supratome, kad mašinos gali tą patį padaryti daug greičiau. Kol aš ar jūs sudarytume kelias dešimtis sandorių – jei veiktume reguliariai ir labai greitai, aukšto dažnio prekybos algoritmai kiekvieną sekundę sudarytų dešimtis tūkstančių sandorių. Būtent taip Niujorko birža prarado trilijoną dolerių“, – sako prof. S. Chestermanas.
Profesorius teigia, kad vienas iš būdų išspręsti aukšto dažnio prekybos algoritmų naudojimo problemą yra trukdžių ar elektros srovės išjungiklių įvedimas. Kitas būdas valdyti greitį galėtų būti kai kurių paskatų atėmimas.
„Kitas pavyzdys, koks svarbus yra greitis: Čikagoje įsikūrę prekybos namai sumokėjo dešimtis milijonų dolerių už tai, kad tarp Čikagos ir Naujojo Džersio būtų nutiestas šviesolaidinis kabelis, todėl būtų sutaupytos trys milisekundės nuo laiko, per kurį signalas praeitų per telefonų laidus“, – sako jis.
Svarstymai dėl DI autonomijos
Prof. S. Chestermanas teigia, kad antrasis DI reguliavimo iššūkis yra labiau orientuotas į jo autonomiją, t. y. idėją, kad mašina gali priimti sprendimus be papildomo žmogaus indėlio. Pavyzdžiui, daugelis žmonių svarsto, ar autonominės transporto priemonės priimtų teisingus sprendimus.
Todėl tebevyksta diskusijos apie traukinio problemą – tai etinis minties eksperimentas, paremtas išgalvotu scenarijumi: stebėtojas turi galimybę išgelbėti penkis žmones, kuriems gresia pavojus būti partrenktiems traukinio, nukreipiant traukinį ir nužudant tik vieną žmogų.
„Ar automobilis turi būti užprogramuotas taip, kad išgelbėtų vaikus ir nužudytų vairuotoją? Buvo atlikta išsami apklausa, kurios metu žmonių buvo klausiama, ar automobilis turėtų nužudyti dešimt moksleivių, ar nuvažiuoti nuo skardžio ir nužudyti vairuotoją. Dauguma sakė, kad automobilis turėtų nužudyti vairuotoją ir išgelbėti vaikus. Paskui buvo paklausta, ar kada nors sėstumėte į taip užprogramuotą automobilį. Dauguma atsakė, kad nesėstų“, – pasakojo prof. S. Chestermanas paskaitoje Vilniaus universitete.
Nors gamintojai tikina, kad pirmenybę teiks vairuotojo saugumui, profesoriaus nuomone, daugelis tokių ribinių scenarijų yra gana nerealistiški.
„Teisinis iššūkis yra atsakomybė, jei tokia transporto priemonė ką nors sužalotų arba važiuotų per raudoną šviesoforo signalą: kas (jei apskritai kažkas) turėtų būti laikomas atsakingas. Nė viena iš šių problemų nėra ypač sudėtinga.
Kalbant apie sužalojimus, toks atvejis jau buvo. Jei aš jus sužaločiau neatsargiai vairuodamas, galėtumėte mane paduoti į teismą. Tačiau jei aš jus, stovintį šalia mano sprogstančio automobilio, sužaločiau, nebūtų prasmės paduoti manęs į teismą, nes aš būčiau miręs. Bet galėtumėte paduoti automobilio gamintoją į teismą dėl atsakomybės už gaminį“, – tvirtina profesorius.
Prof. dr. S. Chestermanas teigia, kad, kalbant apie autonomines transporto priemones, matysime perėjimą nuo vairuotojų atsakomybės prie gamintojų atsakomybės už gaminį, o draudimas atliks tarpininko vaidmenį.
„Norint važinėti keliais, privaloma turėti draudimą, o tai man reiškia asmens civilinės atsakomybės draudimą. Pereinant prie autonominių transporto priemonių, per ateinančius dešimtmečius greičiausiai pasikeis draudimo reikalavimai, bus reikalaujama turėti transporto priemonės atsakomybės už gaminį draudimą“, – sako jis.
Nerimas dėl neskaidrumo
Prof. S. Chestermanas teigia, kad dar vienas DI reguliavimo iššūkis yra jo neskaidrumas. Per pastarąjį dešimtmetį atsirado nauji mašininio bei giluminio mokymosi metodai ir neuroniniai tinklai, o šias DI sistemas net ekspertams perprasti yra sudėtinga, gal net neįmanoma.
„Šios sistemos gali turėti milijonus kintamųjų, todėl DI sistemai gali būti neįmanoma pateikti žmogui suprantamo paaiškinimo. Jas supaprastinus, galbūt būtų lengviau suprasti, bet gali nukentėti tikslumas“, – sako jis.
Profesoriaus manymu, labai svarbu pripažinti, kad neprivalome suprasti visko pasaulyje. Pavyzdžiui, mes kaip keleiviai skraidome lėktuvais, nors ir nevisiškai suprantame aerodinamiką. Farmacijos srityje priimame darbą, pagrįstą statistiniais arba klinikiniais tyrimais.
„Tačiau yra teisinių sprendimų, kai svarbu, kad, pavyzdžiui, teisėjas priimtų sprendimą, remdamasis ne tik statistine istorija ar duomenimis, bet ir individualizuotu bylos tyrimu. Ir kad darytų tai būdu, kuris yra paaiškinamas ir suprantamas suinteresuotoms šalims“, – teigia jis.
Pavyzdžiui, Malaizijoje teismai naudojasi programine įranga, teisėjai remiasi bausmių skyrimo algoritmais, kad rekomenduotų bausmių skyrimo procesus, o Kinijoje nuspėjamieji sprendimai skatina teisėjus apsispręsti.
Iššūkiai gali būti lengvai įveikiami
Prof. S. Chestermanas sako, kad nors greičio, autonomijos ir neskaidrumo klausimai kelia tam tikrų iššūkių, daugumai DI sistemų veiklų dažniausiai gali būti taikomi dauguma įstatymų.
Anot jo, daugelis etikos gairių, sistemų ir principų pradėjo formuotis maždaug 2016 m., kai į viešumą išlindo „Cambridge Analytica“ skandalas. Tada pamatėme, kad DI sistemų klaidų padariniai yra ne tik tokie, kad transporto priemonė be vairuotojo atsitrenkė į ką nors.
Profesorius tvirtina, kad reguliuojant DI būtina nustatyti žmogaus valdymo ir skaidrumo taisykles. Tai reiškia, kad reikia apriboti galimybę kurti DI sistemas, kurių negalėtų valdyti žmogus. Skaidrumas taip pat reiškia, kad galite gauti paaiškinimą, kai priimamas nepalankus sprendimas.
„ES kontekste dažnai kalbama apie teisę į paaiškinimą, kai priimamas nepalankus sprendimas. Tačiau tai labai ribotas skaidrumo apibrėžimas, nes daroma prielaida, kad žinojote, jog buvo priimtas su jumis susijęs sprendimas, kad apie jį girdėjote ir jis buvo jums nepalankus, todėl bus naudinga gauti atsakymą“, – teigia jis.
Pasak prof. S. Chestermano, atsižvelgiant į DI algoritmų plitimą priimant sprendimus, skaidrumas turi reikšti daugiau nei galimybę ginčyti nepalankius sprendimus, nes daug sprendimų bus priimta dėl mūsų.
—
„Arqus“ mokslinių tyrimų ir inovacijų projektu siekiama sustiprinti devynis Europos universitetus vienijančio „Arqus“ aljanso mokslinių tyrimų ir inovacijų dimensiją. Be to, projektu sprendžiami aktualūs pasauliniai visuomenės iššūkiai atliekant intensyvesnius bendrus mokslinius tyrimus, kurie pasižymi meistriškumo, atvirumo, skaidrumo ir veiksmingo bendradarbiavimo su visuomene siekiu.
Komentarų nėra. Būk pirmas!