Technologijoms ir dirbtiniam intelektui (DI) sparčiai žengiant į priekį, valstybės privalo imtis veiksmų, padėsiančių reguliuoti įmonių kuriamus algoritmus ir dirbtinį intelektą, įsitikinęs profesorius Simonas Čestermanas, Singapūro Nacionalinio Universiteto prorektorius ir žinomas tarptautinės teisės ekspertas.
Nuo kokių aplinkybių priklausys DI reguliavimas? Kokie galimi sprendimai siekiant surasti balansą tarp piliečių saugumo ir inovacijų plėtros? Į šiuos ir kitus klausimus Vilniuje vykusioje konferencijoje „Technologiniai pokyčiai ir tarptautinė teisė“ atsakė žinomas tarptautinės teisės ekspertas S. Čestermanas.
Kaip manote, kokias grėsmes žmonijai gali kelti DI? Kas turėtų imtis priemonių, padėsiančių išvengti šių grėsmių?
Dalis žmonių nerimauja dėl egzistencinių grėsmių, pavyzdžiui, kad DI gali sukilti ir mus visus išžudyti. Manau, kad ši, iš mokslinės fantastikos kilusi grėsmė, peraugo į realių žmonių rūpestį. Tačiau kol kas nematome jokių įrodymų, kad šiandien egzistuojantis DI eitų tokia linkme. Mano manymu, jeigu kiltų ketinimų sukurti nekontroliuojamą DI, tada reikėtų nuo to susilaikyti. Tačiau šiuo metu dar nesame tokioje situacijoje.
Visgi yra daug trumpalaikių problemų, kurias turėtume spręsti jau dabar, pavyzdžiui, diskriminacija ir šališkumas. Priimdamas sprendimus, DI remiasi duomenų rinkiniais, kuriuose yra žmogui būdingo šališkumo ir gali trūkti reprezentatyvumo, todėl, manau, kad organizacijos ir vyriausybės teikdamos rekomendacijas turėtų labai apdairiai naudoti algoritmus, jeigu nėra pasirengusios už tas rekomendacijas atsakyti. Kai algoritmai priklauso privačioms bendrovėms, negalime žinoti, kas į juos įtraukiama ir kokia informacija iš jų išeina. Dėl šių priežasčių manau, kad turime atsargiai pasitikėti sistemomis, kurių nesuprantame.
Visa tai susiję su didesne grėsme – dažniau naudojantis DI, gali pakisti mūsų mąstymas. Turbūt visi žinome, kokius pokyčius socialiniai tinklai sukelia jaunajai kartai, todėl DI taip pat gali pakeisti mūsų mąstymą ir požiūrį į pasaulį. Jei pasikliautume dirbtiniu intelektu labai elementariai informacijai gauti, tuomet – gera analogija būtų išmanieji telefonai, dėl kurių mums nebereikia įsiminti daugybės telefono numerių, o tai labai patogu. Bet kas, jei vietoj telefono numerių pradėtume pasikliauti technologijomis formuodami savo nuomonę? Tuomet turėtume labai didelę problemą, nes nebe mes patys formuotume savo nuomonę, o kažkas kitas jai darytų įtaką.
Taigi ką turėtume daryti? Pirma, turėtume išmokti geriau suprasti DI algoritmus. Reikia atsargiau naudoti sistemas, su kuriomis nesame susipažinę ir nežinome, kokios naudojimosi ja pasekmės. Turėtume aiškiau apibrėžti atsakomybę už DI padarytas klaidas, pavyzdžiui, jei automobilis be vairuotojo padaro avariją arba algoritmas priima rasistinį sprendimą – už tai turėtų atsakyti koks nors asmuo arba įmonė.
Savo konferencijos pranešime minėjote, kad bijodamos šių grėsmių valstybės gali imtis per griežto technologijų vystymo reguliavimo. Kaip manote, ar įmanoma pasiekti subalansuotą reguliavimo lygį, kad žmonės būtų apsaugoti nuo pavojų, o technologijos vis dar galėtų tobulėti?
Taip, bet tai yra sudėtinga. Reguliavimas priklauso nuo to, kokią riziką šalis gali prisiimti. Pavyzdžiui, ES (Europos Sąjunga) reguliuoja daug daugiau nei kitos šalys, nes įžvelgia riziką, kurios nenori prisiimti. Pavyzdžiui, Singapūras, žvelgia į Europos požiūrį ir sako: „Na, tai suvaržytų inovacijas ir tada jos vyktų kitur“. Europiečiai atsako maždaug taip: „Kai kuriose srityse, pavyzdžiui, biometrinio žmonių stebėjimo, mes nenorime naujovių. Nenorime, kad veido atpažinimo technologijos būtų visur“. Taigi, apibendrinant galima pasakyti, kad viskas priklauso nuo to, kokią riziką mato kiekviena šalis ir iš dalies nuo jos dydžio. Tokia didelė šalis ar šalių grupė kaip ES vis tiek yra svarbi rinka, net jei ji griežtai reguliuojama. Todėl jei tai reiškia, kad „Meta“ ir „Google“ turi verstis per galvą, kad galėtų veikti ES, jos vis tiek tai darys. Jeigu panašiai pasielgtų maža šalis, minėtos įmonės galėtų nuspręsti, kad ten apskritai neverta užsiimti verslu.
Yra ir kitokių dilemų nei per menkas ar per griežtas reguliavimas. Pavyzdžiui, ar žiūrėti į DI bendrai, kaip ES, kuri traktuoja visą dirbtinį intelektą kaip vieną sritį? Ar, kaip Singapūras ir kitos šalys, kurios į tai žiūri kaip į daug skirtingų sričių? Nustatyti konkrečias problemas, kurias norima spręsti, o ne reguliuoti technologijas kaip visumą? Aš manau, kad dauguma šalių pasirinks pastarąjį variantą.
Ar galite paminėti teigiamų pavyzdžių, kai valstybėms pavyksta subalansuoti DI reguliavimą?
Tai priklauso nuo to, kokių tikslų siekiame. Manau, kad ES yra svarbus valstybių grupės pavyzdys. Ji teikia pirmenybę teisėms, o ne nekontroliuojamai technologijų pažangai. Todėl tikrai įdomu stebėti, kur tai nuves. Singapūras ėmėsi labai praktiško požiūrio – jų tikslas buvo sukurti tam tikras priemones, pavyzdžiui, „AI verify“, kurios stiprina įmonių savireguliaciją. Daugelis bendrovių teigia, kad turi konkrečias su DI susijusias gaires ir standartus, todėl Singapūras sako: „Gerai, štai priemonė, su kuria galite įvertinti, ar pakankamai gerai laikotės savo standartų”.
Be to, turime reguliavimo „smėlio dėžes“ – kai kurios vyriausybės sukuria tam tikrą virtualią aplinką, pavyzdžiui, finansų sektoriuje, kurioje galima paleisti savo produktų programas patiriant minimalią riziką, nes šios programos negali „pabėgti“ iš smėlio dėžės. Yra ir kietasis reguliavimas, taikomas konkrečiuose sektoriuose, pavyzdžiui, medicinos, finansų ar transporto. Todėl, manau, kad Singapūras daro įdomius dalykus.
Kitas gan įdomus atvejis yra Kinija. Jie į dirbtinį intelektą žiūri per nacionalinio saugumo prizmę ir vykdo įdomią socialinę politiką, kuri gali sudominti paauglių tėvus, tai – laiko, kurį vaikai žaidžia vaizdo žaidimus, automatinis ribojimas, ir reikalavimas, kad dideli DI kalbos modeliai niekada nemeluotų. Taigi nemanau, kad kuri nors šalis yra atradusi tobulą DI politiką, bet tai natūralu ankstyvuoju technologijų evoliucijos etapu – visame pasaulyje vyksta įvairūs eksperimentai. Manau, kad vienas dalykas, kurį greitai visi suvoksime – nieko nedaryti nėra išeitis.
Ar matote kokių nors iššūkių dabartiniame pasaulyje, kuriuos DI galėtų padėti įveikti?
Taip, DI labai gerai optimizuoja išteklius ar darbo eigą, bando rasti efektyviausius būdus, kaip apdoroti didžiulius duomenų kiekius. Yra dalykų, kuriuos DI gali atlikti, o žmonės – ne, pavyzdžiui, vaistų atradimas: antibiotikai iš tikrųjų pradėti plačiai vartoti tik apie 1940-uosius, mes juos atradome natūraliai. Dabar, pasitelkus DI, galima pasikliauti ne tik tuo, kad dirvožemis natūraliai sukurs naujus antibiotikus, bet tai galima daryti ir virtualiai. Turime galimybes eksperimentuoti su visais įmanomais molekulių deriniais, todėl tokiose srityse, kaip ši, DI turi didžiulį potencialą. Be to, klimato ir orų modeliavimas yra neįtikėtinai sudėtingas procesas, kuriame DI gali atlikti svarbų vaidmenį. Didžiuliai duomenų kiekiai – tai sritis, kurioje jis tikrai galėtų būti labai svarbus.
Kalbant apie tarptautinę teisę, ar manote, kad galbūt ateityje atsiras tarptautinė organizacija, panaši į Jungtines Tautas, kuri padės kurti DI įstatymus ir taisykles visoms šalims?
Manau, kad tai būtų labai sudėtinga, nes dabar visa galia yra bendrovių rankose. Bendrovės uždirba pinigus ir nebūtinai nori būti reguliuojamos. Tuo tarpu valstybės taip pat turi galios, bet jos atsargiai vertina savo perteklinio ar nepakankamo reguliavimo riziką. Tarptautiniu lygmeniu įtakos beveik nėra, išskyrus galią, kurią valstybės noriai suteikia tarptautinėms organizacijoms. Galima įsivaizduoti scenarijų, pagal kurį visos valstybės sutinka suteikti galią tarptautinei organizacijai, bet kodėl jos turėtų tai daryti? Pavyzdžiui, jei pažvelgtumėte į dabartinę įtampą tarp JAV ir Kinijos, kodėl JAV norėtų būti valdoma taip pat, kaip Kinija, ir atvirkščiai? Tai įmanoma, bet mažai tikėtina. Tokie scenarijai įmanomi tik dviem aplinkybėmis: jei kas nors yra labai neprieštaringa ir savaime suvokiama, pavyzdžiui, pašto siuntų standartai, arba labai pavojinga, pavyzdžiui, branduolinės bombos.
Konferenciją „Technologiniai pokyčiai ir tarptautinė teisė“ organizavo Europos Tarptautinės Teisės Asociacija (angl. European Society of International Law – ESIL), Vilniaus universitetas (VU) ir VU Teisės fakultetas. ESIL konferencijos kasmet vyksta vis kitame Europos mieste, Lietuvoje šis renginys vyko pirmą kartą.
