top of page
Other Languages:
UMETNA INTELIGENCA
IN PRAVICA DO ŽIVLJENJA
Logotip financerja
PRETEKLI DOGODKI
- Maj 2024 -
Raziskovalka Projektne skupine Pravne fakultete Univerze v Ljubljani doc. dr. Maruša Tekavčič Veber je v Glasniku TAX-FIN-LEX objavila prispevek z naslovom:
Kaj prinašata Okvirna konvencija o umetni inteligenci, človekovih pravicah, demokraciji, in pravni državi ter Akt o umetni inteligenci?
iz
V prispevku je naslovila aktualni tematiki: Akt o umetni inteligenci Evropske unije, ki je bil v Evropskem parlamentu sprejet marca letos, ter Okvirno konvencijo o umetni inteligenci, ki je v pripravi pod okriljem Odbora za UI v okviru Sveta Evrope. Pri obeh dokumentih je opozorila na nekatere ključne posebnosti, katerim je potrebno nameniti še dodatno pozornost tako s strani odločevalcev kot tudi morebitnih naslovljencev.
Prispevek je bil objavljen 7. 5. 2024 (številka Glasnika 16/2024).
Prispevek je dostopen preko povezave.
- Marec 2024 -
V okviru Simpozija
PRAVO V INFORMACIJSKI DRUŽBI
iz
v organizaciji Inštituta za primerjalno pravo pri Pravni fakulteti v Ljubljani, Inštituta za kriminologijo pri Pravni fakulteti v Ljubljani, Pravne fakultete Univerze v Ljubljani in Centra za informacijske tehnologije, je sodelovala vodja projektne skupine prof. dr. Vasilka Sancin, ki je predstavila prispevek z naslovom "Uveljavljanje odgovornosti držav za kršitve človekovih pravic pri uporabi umetne
inteligence na mednarodni ravni".
Simpozij se je odvil 28. marca 2024,
na Pravni fakulteti UL.
.png)
- December 2024 -
V okviru projekta STAznanost je na okrogli mizi
OD ORODJA DO AVTORJA: KRMARJENJE PO
POLJU UMETNE INTELIGENCE PO RAZCVETU
svoj prispevek predstavila prof. dr. Vasilka Sancin.
Okrogla miza se je odvila 20. decembra 2023 na Filozofski fakluteti, UL.
- Oktober 2023 -
V okviru dogodka
49. DNEVI SLOVENSKIH PRAVNIKOV
iz
v organizaciji Zveze društev pravnikov Slovenije, Zveze društev za gospodarsko pravo Slovenije in družbe LEXPERA (GV Založba), so sodelovali vodja projektne skupine prof. dr. Vasilka Sancin in nekateri raziskovalci.
Prof. dr. Vasilka Sancin, ki je tudi prevzela vodenje sekcije "UMETNA INTELIGENCA IN ČLOVEKOVE PRAVICE", je predstavila prispevek z naslovom "Kalejdoskopski pogled na umetno inteligenco in pravo človekovih pravic". Raziskovalec projektne skupine izr. prof. dr. Matija Damjan je predstavil prispevek z naslovom "Umetna inteligenca in pravice iz ustvarjalnosti", raziskovalka doc. dr. Maša Kovič Dine pa prispevek z naslovom "Odgovornost države za neuporabo oziroma neustrezno uporabo umetne inteligence pri preprečevanju poplav in vplivi na človekove pravice".
Dogodek se je odvil 12. in 13. oktobra 2023,
v GH Bernardin v Portorožu.
- Maj 2023 -
V okviru srečanja Društva za mednarodno pravo (ILA),
ki se je odvilo 15. in 16. junija 2023
na Pravni fakulteti Univerze v Ljubljani,
organiziranem pod vodstvom prof. dr. Vasilke Sanin
je bil vključen panel
VLOGA UMETNE INTELIGENCE PRI UPRAVLJANJU MIGRACIJ
V okviru konference
ODGOVORNOST ZAŠČITITI V TEORIJI IN PRAKSI
iz
ki jo organizira vodja projektne skupine prof. dr. Vasilka Sancin,
je bil vključen panel na temo umetne inteligence, katerega je moderirala prof. dr. Vasilka Sancin, na njem pa sta svoj prispevek predstavljali tudi dve članici projektne skupine, dr. Maruša Tekavičič Veber in as. Tadeja Urbas.
Konferenca se je odvila 11. in 12. maja 2023,
na Pravni fakulteti UL.
Šlo je za že šesto konferenco v seriji dvoletnih mednarodnih interdisciplinarnih znanstvenih konferenc z naslovom Responsibility to Protect in Theory and Practice. Namen konference je bil ponuditi priložnost znanstvenikom in strokovnjakom v praksi s celega sveta, da sodelujejo v interdisciplinarni akademski razpravi o teoretičnih in praktičnih posledicah načela Odgovornost zaščititi (ang. Responsibility to Protect – R2P). Predstavljena so bila tako teoretična vprašanja povezana z implementacijo R2P v kriznih situacijah, kot tudi praktični problemi, ki izvirajo iz obravnave kriznih primerov s potencialom, da dosežejo razsežnosti, ki zahtevajo sklicevanje R2P.
- Marec 2023 -
V okviru Simpozija
PRAVO V INFORMACIJSKI DRUŽBI
iz
ki ga je organiziral Inštitut za primerjalno pravo, je sodelovala vodja projektne skupine prof. dr. Vasilka Sancin, ki je predstavila prispevek na temo umetne inteligence in človekovih pravic.
Simpozij se je odvil 17. marca 2023,
na Pravni fakulteti UL in online.
V sklopu svojega prispevka je izpostavila težavnost sprejema vseobsežne definicije umetne inteligence (UI) zaradi nenehnih in nepredvidljivih tehnoloških napredkov. Nadalje je izpostavila predvsem napore UNESCA v okviru Priporočil o etiki umetne inteligence sprejeti definicijo UI.
Na ravni Evropske unije pa je predstavila Predlog Uredbe Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (Akt o umetni inteligenci) in spremembi nekaterih zakonodajnih aktov unije. Glede tega je poudarila, da gre za tehnološko nevtralne dokumente ter da imajo države neodvisno obveznost prilagoditi se tehnološkemu razvoju in sprejeti ustrezne ukrepe za zaščito človekovih pravic. Pri tem je navedla, da nove tehnologije prinašajo s seboj tako pozitivne kot tudi negativne učinke. Glede predloga je še poudarila, da vsebuje zelo antropocentričen pogled in se opredelujeje predvsem do tveganj, ki ga te tehnologije lahko povzročajo za ljudi, ne upošteva pa potencialne nevarnosti teh tehnologij za okolje.
Za konec je predlagala sprejem ustreznih kodeksov ravnanaja in izpostavila, da je potrebno vidik človekovih pravic upoštevati tekom celotnega življenjskega cikla UI, to pomeni že od samega snovanja UI. Samo na tak način se namreč lahko prepreči nastanek UI, ki ga je potem potrebno izločati iz prometa.
- November 2022 -
Projektna skupina Pravne fakultete Univerze v Ljubljani
je v sklopu All-European International Humanitarian and Refugee
Law Moot Court-a 15. novembra 2022 organizirala
OKROGLO MIZO:
UPORABA UMETNE INTELIGENCE V PRAKSI:
Perspektivi mednarodnega humanitarnega prava
in mednarodnega begunskega prava
Projektna skupina Pravne fakultete UL je 15. novembra 2022 v sklopu All-European International Humanitarian and Refugee Law Moot Court-a organizirala okroglo mizo, ki je naslovila humanitarne vidike vprašanj, ki se pojavljajo ob vse hitrejšem razvoju tehonologij, ki temeljijo na uporabi umetne inteligence.
Prvi je o uporabi smrtonosnih avtonomnih orožjih spregovoril prof. Yuval Shany, katere je naslovil s terminom "ubijalski roboti". Naštel je tri vrste pomislekov, ki jih Mednarodni odbor Rdečega križa (ICRC) redno navaja v povezavi z vse hitrejšim razvojem tehnologije, in sicer je problematiziral posploševanje tehnologije in poudaril pomembnost skrbi za kakovostne odločitve, izpostavil je pomanjkanje usmiljenja in človekoljubja pri sprejemanju odločitev s strani tehnologije ter se skliceval na problem odsotnosti etičnega vidika.
Opozoril je tudi, da trenutno ni pravnih aktov, ki bi tako smrtonosno avtonomno orožje prepovedovali, kot tudi ni posebne obravnave umetne inteligence v mednarodnopravnih aktih, vendar pa se lahko uporabljajo splošna načela mednarodnega humanitarnega prava, kot tudi pravo človekovih pravic. Pri tem je opozoril tudi, da je tudi Odbor človekovih pravic v svojem Splošnem komentarju št. 36 zapisal, da "se takšni oborožitveni sistem ne bi smeli razvijati in uporabljati, razen če se ugotovi, da je njihova uporaba v skladu s 6. členom mednarodnega pakta o državljanskih in političnih pravicah, in drugimi ustreznimi normami mednarodnega prava".
Sledila mu je govorka Rebeca Moreno Jimenez iz službe Urada Visokega komisarja ZN za begunce (UNHRC), ki je o tej temi spregovorila z vidika begunskih kriz in migracij. Poudarila je, da njihov mandat vključuje zahtevo po inovativnih pristopih, katere jim omogoča razvijajoča se tehnologija. Kot primer je izpostavila Projekt Jetson, v sklopu katerega je bilo s pomočjo analitičnega zbiranja podatkov napovedano gibanje razseljenega prebivalstva v Somaliji.
Poudarila je, da je Urad Visokega komisarja ZN za begunce pri svojem delu posebno pozoren na spoštovanje človekovih pravic, ter da njegov pristop temelji na treh ključnih elementih: pridobljenih podatkih, delovanju ekipe za človekove pravice (ki te podatke posreduje strojem in je pri tem pozorna na izogibanju potencialne diskriminacije), ter na humanitarnih prednostnih nalogah. Ob koncu je izpostavila trenutno pravno vrzel na tem področju, še posebej v sklopu vprašanja beguncev.
Minimal Title
Projektna skupina Pravne fakultete Univerze v Ljubljani
je v sodelovanju z Geneva Graduate Institute organizirala
Global HealthTech Innovation Symposium
2. november, Ženeva
Članici projektne skupine prof. dr. Vasilka Sancin in as. Tadeja Urbas sta 2. novembra 2022 v Ženevi v sodelovanju z Geneva Graduate Institute soorganizirali simpozij na temo svetovnega zdravstva.
Razprava je obravnavala hiter razvoj zdravstvenih tehnologij in njihov potencial, da privedejo do velikega tehnološkega napredka na področju svetovnega zdravja. Kljub temu pa takšen tehnološki napredek prinaša tudi številne izzive, ki jih lahko prinesejo digitalne zdravstvene tehnologije (med drugim izzive v zvezi z razpoložljivostjo in kakovostjo podatkov, zasebnostjo podatkov in etiko, regulativnimi in političnimi izzivi ter izzivi v zvezi z integracijo in zmogljivostmi).
Dogodek je zato obravnaval potencialne koristi inovativnih načinov zagotavljanja zdravja, preučil njihove trenutne ovire in analiziral pomanjkljiv sodobni pravni okvir, ki spremlja hiter tehnološki napredek v globalnem zdravju.
Minimal Title
.jpeg)
- September 2022 -
Prof. dr. Vasilka Sancin je kot vabljena strokovnjakinja sodelovala na:
14. Azijski forum o človekovih pravicah:
Vpliv novih tehnologij na človekove pravice
oseb z invalidnostmi
Razprava se je odvila v četrtek, 29. septembra 2022,
v Seoulu (Južna Koreja) in online.
![[Human Asia] The 14th Asia Human Rights Forum Program Sheet Final.jpg](https://static.wixstatic.com/media/510aed_808000b26e9e4d44bf97e6ba4055fdf6~mv2.jpg/v1/fill/w_705,h_1394,al_c,q_85,usm_0.66_1.00_0.01,enc_avif,quality_auto/%5BHuman%20Asia%5D%20The%2014th%20Asia%20Human%20Rights%20Forum%20Program%20Sheet%20Final.jpg)
- Junij 2022 -
Projektna skupina Pravne fakultete Univerze v Ljubljani
je sodelovala na
ILA 2022 - 80. bienalni konferenci,
19 - 24 junij, Lizbona
Članici projektne skupine doc. dr. Maša Kovič Dine in Tadeja Urbas sta se med 19. in 24. junijem udeležili 80. bienalne ILA konference v Lizboni, kjer sta zastopali ideje projektne skupine.
Tadeja Urbas je bila izbrana, da v panelu "mladi akademiki", v okviru teme nove tehnologije in mednarodno pravo, predstavi svoj prispevek z naslovom "Bo regulacija umetne inteligence odprla Pandorino skrinjico? Kritična analiza sodobnega mednarodnega pravnega okvira umetne inteligence in njenih vplivov na varstvo pravice do življenja".
V sklopu svoje predstavitve je predstavila trenutni pravni okvir regulacije umetne inteligence, med drugim je izpostavila Priporočilo OECD o umetni inteligenci, G20 načela umetne inteligence, Priporočilo UNESCA o etiki umetne inteligence in pa EU uredbo o umetni inteligenci. Pri tem je poudarila, da trenutno ni sprejetega celostnega upravljanja umetne inteligence, ki bi učinkovito uravnotežil konkurenčne interese zasebnih korporacij z zaščito človekovih pravic. Pozvala je k vzpostvitvi globalnega pravnega okvirja, ki bi zajemal specifiko umetne inteligence, to je hitri in nepredvidljivi razvoj.
Pri tem je poudarila, da bo moral nov pravni okvir graditi na pristopu od zgoraj navzdol in temeljiti na preglednosti in razpoložljivosti, kjer ne bo potrebno popolno razkritje sistema umetne inteligence, vendar le razkritje nekaterih ključnih tehničnih informacij za lažjo in bolj natančno napravo oceno vpliva na človekove pravice.
Minimal Title
- Maj 2022 -
Projektna skupina Pravne Fakultete Univerze v Ljubljani
je organizirala
Posvet: Zagotavljanje pravice do življenja
pri uporabi in razvoju umetne inteligence
Posvet se je odvil v četrtek in petek, 19. in 20. maja 2022
v Dolenjskih toplicah.
Na njem se je predstavil Mednarodni raziskovalni center za umetno inteligenco pod okriljem UNESCO (IRCAI). Člani IRCAI so predstavili Priporočilo UNESCA o etiki umetne inteligence.
Mitja Jermol, član IRCAI, je predstavil definicijo umetne inteligence in poudaril, da predstavljena definicija stoji tako na pravnem kot tudi tehničnem razumeanju. Obrazložil je, da je umetna inteligenca tehnični pripomoček ljudi, ki deluje na znanju ljudi - in torej predstavlja zgolj ogledalo vseh človeških predsodkov. Zato je ključno, da smo do rezultatov umetne inteligence
vedno kritični.
Matej Kovačič, član IRCAI je opozoril, da ljudje navadno razumejo umetno inteligenco kot nevarnost, ki bo prevzela svet. Vendar pa umetna inteligenca strmi zgolj k večji učinkovitosti. Poudaril je tudi, da je imela umetna inteligenca že nekatere negativne vidike, npr. pri uporabi avtonomnih orožij (npr. Clearview) in dronih (npr. ruski KUL-BLA). Prav tako lahko umetna inteligenca spodkopava demokracijo. Zato je ključno, da se zavedamo, da je umetna inteligenca zgolj orodje, tako kot nož, katerega lahko uporabljamo v dobro ali slabo.
Mihajela Črnko, direktorica komunikacij pri IRCAI, je predstavila sam raziskovalni center od leta 2020, ko je bil ustanovljen ter njegove trenutne aktivnosti. Osredotočila se je predvsem na njihovo mrežo (NAIXUS) raziskovalnih centrov in projekt TOP 100.
Prof. Yuval Shany pa se je v svoji predstavitvi osredotočil na avtonomna orožja in umetno inteligenco pri njihovem nadzorovanju. Poudaril je, da je spodbuda za ustvarjanje avtonomnih orožij zelo velika, saj lahko povzročijo več škode, so pri tem bolj natančni in s tem bistveno manj ogrožajo lastne čete. Trenutni problem teh orožij pa je, da pravo zaostaja za razvojem teh tehnologij in ne uspe regulirati njihovo uporabo. Člen 36, Dodatnega protokola h Ženevskim konvincijam sicer predvideva, da mora vsak razvoj novih orožij vsebovati oceno zakonitosti njihove uporabe in premislek o skladnosti teh orožij z humanitarnih pravom in pravom človekovih pravic. Vprašanje torej ni, ali bomo ta orožja prepovedali, temveč določanje stopnje predhodnje in naknadne odgovornosti uporabe teh orožij. Problematičen pa ostaja tudi problem "črne skrinjice", v sklopu katerega ne vemo kako naprave delujejo in sprejemajo odločitve, kar bistveno otežuje njihovo regulacijo in pripis odgovornosti.
Minimal Title
- April 2022 -
Projektna skupina Pravne Fakultete Univerze v Ljubljani
je organizirala
Simpozij o umetni inteligenci in vesoljskem pravu:
Razprava o pravni ureditvi umetne inteligence in vesoljskega prava v prihodnosti ter njihovem vplivu na pravico do življenja
Razprava se je odvila v torek, 26. aprila 2022 v zlati predavalnici
Pravne Fakultete, spremljalo pa so je lahko tudi prek spleta.
Na njej je kot prva penalistka nastopila prof. Rebecca Bresnik, pomočnica glavnega svetovalca za mednarodne zadeve pri NASI in profesorica vesoljskega prava na Univerzi v Hustonu, ZDA. V svoji predstavitvi se je dotaknila vprašanj odgovornosti v okviru vesoljskih potovanj ter vesoljskih vozil.
Kot drugi penalist je nastopil prof. dr. Jan Wouters, profesor mednarodnega prava in direktor centra za študije globalnega upravljanja v Leuvenu, Belgiji. V svoji predstavitvi je izpostavil bodoče izzive regulacije tega področja v sklopu novo razvijajoče se umetne inteligence, vse večje proliferacije novih pravnih subjektov na mednarodnem podijumu in pojava "staranja pogodbenega prava". Poslušalce je usmeril v razmišljanje o pomembnosti razvoja nezavezujočega, mehkega prava za učinkovito regulacijo umetne inteligence.
Kot tretja panelistka pa je nastopila mag. Iva Ramuš Cvetkovič, mlada raziskovalka na Inštitutu za kriminologijo pri Pravni fakulteti v Ljubljani in doktorska študentka na Pravni fakulteti UL. Svojo predstavitev je zastavila v okviru opisa "groženj z neba", ter vprašanja ali vesoljsko pravo ponuja ustrezen pravni okvir za naslovitev potencialnih nevarnosti, ki jih prinaša vesoljska tehnologija in lahko kršijo pravico do življenja.
Simpozij je moderirala prof. dr. Vasilka Sancin, predstojnica katedre za mednarodno pravo na Pravni fakulteti UL in profesorica mednarodnega prava.
Minimal Title
.jpeg)
Projektna skupina PF je bila povabljena k sodelovanju na otvoritvenem dogodku
EQUALS-EU Innovation Campa 2022, ki ga je organiziral Gender Center
na Graduate Institute Geneva.
Razprava se je odvila v torek,12. aprila 2022 prek spleta na temo
"Razumevanje spletnega nasilja in možne poti do pravice"
Na njej so nastopile Eniola Mafe (vodja projekta Vizija 2030 v oddelku za tehnologijo in trajnostni razvoj na Svetovnem gospodarskem forumu), Tamara Dancheva (vodja za mednarodne odnose na oddelku za zunanje zadeve in industrije na GSMA), Caroline Wamala-Larsson (docentka za študije spolov in vodja raziskav na švedskem programu za IKT v regijah v razvoju (SPIDER) na Univerzi v Stockholmu). V imenu projektne skupine PF je nastopila as. Tadeja Urbas. Razpravo je moderirala dr. Claire Somerville, izvršna direktoricaGender Centra IHEID.
Minimal Title
- Marec 2022 -
Projektna skupina PF je v sodelovanju z Graduate Institute Geneva
organizirala
OKROGLO MIZO
Umetna inteligenca v prihodnosti:
Okrogla miza o vplivu umetne inteligence na človekove pravice, gradnjo miru in svetovno zdravstvo
Minimal Title
Osrednja tema, obravnavana na okrogli mizi, je bila prihodnost umetne inteligence na treh različnih področjih, in sicer na področju človekovih pravic, vzpostavljanju miru in globalnem zdravstvu. Vsak segment je poskušal poudariti medsebojno povezanost in vpliv razvoja in uporabe umetne inteligence ter izzive, s katerimi se soočajo številni napredki znanosti in razvoj novih tehnologij.
Prof. Vasilka Sancin, predstojnica katedre za mednarodno pravo na Pravni fakulteti v Ljubljani in vodja raziskovalne skupine AI in pravice do življenja v Ljubljani, je osvetlila vprašanja, ki se nanašajo na zaščito človekovih pravic ter poudarila, da bo oblika globalne regulacije umetne inteligence v prihodnosti potrebna, hkrati pa je opozorila na nevarnost prekomerne in fragmentirane regulacije.
Dr. Susanne Andreae, vodja oddelka zdravstva in zdravstvene industrije na Svetovnem gospodarskem forumu v Ženevi, je izpostavila, da smo sicer še vedno v dokaj začetnih fazah razvoja umetne inteligence, vendar pa je pomembno, da vzpostavimo ustrezno regulacijo in posledično trend kakovosti, dostopa in pravilnega upravljanja le-te. Zgolj na tak način se bomo lahko izognili poglobitvi že obstoječih razlik med državami z visokimi in njižjimi dohodki.
Dr. Mehdi Snene, docent na Univerzi v Ženevi in vodja mednarodne raziskovalne skupine za digitalno zdravje in umetno inteligenco v Ženevi (I-DAIR), je poudaril pomen razprave o podatkovni strategiji za globalno zdravje in opozoril, da je treba začeti spodbujati države z revnimi podatkovnimi bazami, da pospešijo postopek digitalizacije. Izpostavil je, da je umetna inteligenca zgolj orodje v rokah ljudi, ter pozval h krepitvi zmogljivosti na globalnem jugu, ki bi omogočila nadaljnji razvoj umetne inteligence.
Dr. Mariazel Maqueda López, vodja oddelka za PeaceTech na Zveznem inštitutu za tehnologijo v Lozani (EPFL), je opisala temeljna projekta, s katerima se ukvarjajo v sodelovanju z Graduate Institute Geneva. Prvi se nanaša na uporabo umetne inteligence v povezavi z mediji in se osredotoča predvsem na načine prepoznav lažnih novic, drugi pa raziskuje, na kakšen način tehnologija spodbuja nasilje na podlagi spola.
Ga. Caitlin Kraft-Bauchman, ustanoviteljica in direktorica feministične organizacije Ženske za mizo, ki se posveča spremembi sistemov z uporabo tehnologije, inovacij in umetne inteligence, je spregovorila o problematiki pristranskosti algoritmov, ki so bili izbrani v nabor in standardizirani s strani "belih moških". Opozorila je, da je pomembno opazovati, kdo razvija algoritme ter kdo postavlja vprašanja, ki so relevantna za nadaljnji razvoj umetne inteligence.
bottom of page