RR\1115573HR.docx PE582.443v03-00

HR Ujedinjena u raznolikosti HR

Europski parlament 2014-2019

Dokument s plenarne sjednice

A8-0005/2017

27.1.2017

IZVJEŠĆE

s preporukama Komisiji o pravilima građanskog prava o robotici

(2015/2103(INL))

Odbor za pravna pitanja

Izvjestiteljica: Mady Delvaux

(Inicijativa - članak 46. Poslovnika)

Izvjestitelji za mišljenje (*):

Georg Mayer, Committee on Transport and Tourism

Michał Boni, Committee on Civil Liberties, Justice and Home Affairs

(*) Pridruženi odbori – članak 54. Poslovnika

PE582.443v03-00 2/65 RR\1115573HR.docx

HR

PR_INL

SADRŽAJ

Stranica

PRIJEDLOG REZOLUCIJE EUROPSKOG PARLAMENTA ................................................ 3

PRILOG PRIJEDLOGU REZOLUCIJE: DETALJNE PREPORUKE O SADRŽAJU

TRAŽENOG PRIJEDLOGA ................................................................................................... 20

OBRAZLOŽENJE ................................................................................................................... 27

MIŠLJENJE ODBORA ZA PROMET I TURIZAM .............................................................. 31

MIŠLJENJE ODBORA ZA GRAĐANSKE SLOBODE, PRAVOSUĐE I UNUTARNJE

POSLOVE ................................................................................................................................ 36

MIŠLJENJE ODBORA ZA ZAPOŠLJAVANJE I SOCIJALNA PITANJA .......................... 42

MIŠLJENJE ODBORA ZA OKOLIŠ, JAVNO ZDRAVLJE I SIGURNOST HRANE ......... 48

MIŠLJENJE ODBORA ZA INDUSTRIJU, ISTRAŽIVANJE I ENERGETIKU .................. 56

MIŠLJENJE ODBORA ZA UNUTARNJE TRŽIŠTE I ZAŠTITU POTROŠAČA ............... 60

REZULTAT KONAČNOG GLASOVANJA U NADLEŽNOM ODBORU .......................... 65

(*) Pridruženi odbori – Članak 54. Poslovnika

RR\1115573HR.docx 3/65 PE582.443v03-00

HR

PRIJEDLOG REZOLUCIJE EUROPSKOG PARLAMENTA

s preporukama Komisiji o pravilima građanskog prava o robotici

(2015/2103(INL))

Europski parlament,

– uzimajući u obzir članak 225. Ugovora o funkcioniranju Europske unije,

– uzimajući u obzir Direktivu 85/374/EEZ o odgovornosti za proizvode,

– uzimajući u obzir članke 46. i 52. Poslovnika,

– uzimajući u obzir izvješće Odbora za pravna pitanja i mišljenja Odbora za promet i

turizam, Odbora za građanske slobode, pravosuđe i unutarnje poslove, Odbora za

zapošljavanje i socijalna pitanja, Odbora za okoliš, javno zdravlje i sigurnost hrane,

Odbora za industriju, istraživanje i energetiku te Odbora za unutarnje tržište i zaštitu

potrošača (A8-0005/2017),

Uvod

A. budući da su vremena od Frankensteina Mary Shelley, klasičnog mita o Pigmalionu i

praškog Golema do robota Karela Čapeka, koji je i skovao tu riječ, ljudi sanjali o

mogućnosti da proizvedu inteligentne strojeve, a najčešće je riječ bila o androidima s

ljudskim obilježjima;

B. budući da u trenutku kad se ljudska vrsta nalazi na pragu razdoblja u kojem je sve više

sofisticiranih robota, botova, androida i drugih oblika umjetne inteligencije spremno za

novu industrijsku revoluciju, koja će vrlo vjerojatno utjecati na sve slojeve društva, od

ključne je važnosti da zakonodavac razmotri pravne i etičke implikacije i učinke toga

bez kočenja inovacija;

C. budući da je potrebno donijeti opće prihvaćene definicije pojmova „robot” i „umjetna

inteligencija” koje su fleksibilne i kojima se ne koče inovacije;

D. budući da je od 2010. do 2014. prodaja robota u prosjeku porasla za 17 %, a 2014. za

29 %, što predstavlja najveći godišnji porast dosad, te da su dobavljači automobilskih

dijelova, elektroindustrija i elektronička industrija glavni pokretači rasta; budući da se

tijekom posljednjeg desetljeća broj prijavljenih patenata u području robotike utrostručio;

E. budući da je stopa zaposlenosti trajno rasla tijekom posljednjih 200 godina zbog

tehnološkog razvoja; budući da razvoj robotike i umjetne inteligencije može

potencijalno preobraziti živote i radne prakse, povećati učinkovitost, uštedu i razine

sigurnosti te pružiti poboljšanu razinu usluga te da se u kratkoročnom do srednjoročnom

razdoblju od robotike i umjetne inteligencije očekuje korist u smislu učinkovitosti i

uštede, ne samo u proizvodnji i trgovini već i u područjima kao što su prijevoz,

medicinska njega, spašavanje, obrazovanje i poljoprivreda, te istovremeno i mogućnost

da se ljudi prestanu izlagati opasnim uvjetima, primjerice pri čišćenju područja

zagađenih otrovnim tvarima;

PE582.443v03-00 4/65 RR\1115573HR.docx

HR

F. budući da je starenje rezultat dužeg očekivanog životnog vijeka zbog napretka u

pogledu životnih uvjeta i u modernoj medicini te je ono jedno od najvećih političkih,

socijalnih i gospodarskih izazova za europska društva u 21. stoljeću; budući da će do

2025. više od 20 % Europljana biti u dobi od 65 godina ili starije, uz posebno brz porast

broja osoba starijih od 80 godina, što će dovesti do potpuno različite ravnoteže među

generacijama u našim društvima, te budući da je u interesu društva i obitelji da starije

osobe ostanu zdrave i aktivne što je dulje moguće;

G. budući da aktualni trend vodi prema razvoju pametnih i autonomnih strojeva koje je

moguće obučavati i koji mogu samostalno donositi odluke te da to dugoročno donosi ne

samo gospodarske koristi nego i otvara niz pitanja povezanih s izravnim i neizravnim

učincima na cjelokupno društvo;

H. budući da strojno učenje nudi izrazito velike gospodarske i inovativne koristi za društvo

jer se njime uvelike poboljšava mogućnost analize podataka te da ono predstavlja nove

izazove u pogledu jamčenja nediskriminacije, pravičnosti, transparentnosti i

razumljivosti u postupcima donošenja odluka;

I. budući da je slično tome potrebno ocijeniti gospodarske pomake i učinak na

zapošljavanje kao rezultat razvoja robotike i strojnog učenja; budući da, unatoč

njezinim neosporivim prednostima, primjena robotike može rezultirati transformacijom

tržišta rada i potrebom da se u skladu s time razmotri budućnost obrazovanja,

zapošljavanja i socijalnih politika;

J. budući da široko rasprostranjena uporaba robota možda neće automatski dovesti do toga

da oni zamjenjuju radna mjesta, međutim, niskokvalificirana radna mjesta u radno

intenzivnim sektorima bit će podložnija automatizaciji; budući da bi taj trend mogao

vratiti proizvodne procese natrag u EU; budući da je istraživanje pokazalo da

zaposlenost znatno brže raste u profesijama u kojima se češće koriste računala; budući

da se automatizacijom poslova može potencijalno osloboditi ljude od monotonog

fizičkog rada i usmjeriti ih prema kreativnijim i značajnijim zadaćama; budući da

automatizacija zahtijeva da vlade ulažu u reforme obrazovanja i drugih područja kako bi

se poboljšalo preusmjeravanje na one vještine koje će biti potrebne radnici u

budućnosti;

K. budući da istovremeno razvoj robotike i umjetne inteligencije može dovesti do toga da

roboti preuzmu velik dio posla koji trenutačno obavljaju ljudi bez potpune nadoknade

izgubljenih radnih mjesta, što je zabrinjavajuće u pogledu budućnosti zapošljavanja,

održivosti sustava socijalne zaštite i sigurnosti te trajnog zaostatka u mirovinskim

doprinosima ako se zadrži trenutačni sustav oporezivanja jer bi se time potencijalno

povećala nejednakost u pogledu raspodjele bogatstva i utjecajnosti; istovremeno je za

očuvanje socijalne kohezije i blagostanja potrebno ocijeniti mogućnost oporezivanja

rada robota ili naknade za korištenje i održavanje robota u kontekstu financiranja

potpore i ponovnog osposobljavanja nezaposlenih radnika čija su radna mjesta

smanjena ili ukinuta;

L. budući da je, s obzirom na sve veće podjele u društvu i smanjivanje srednje klase, važno

imati na umu da razvoj robotike može dovesti do visoke koncentracije bogatstva i moći

u rukama manjine;

RR\1115573HR.docx 5/65 PE582.443v03-00

HR

M. budući da će se razvojem robotike i umjetne inteligencije definitivno utjecati na radno

okruženje, što može stvoriti nove probleme povezane s odgovornošću, ali i ukloniti

druge probleme; budući da je potrebno razjasniti pravnu odgovornost u pogledu

poslovnog modela i obilježja radnika u slučaju da dođe do hitnih slučajeva ili problema;

N. budući da trend usmjeren prema automatizaciji zahtijeva da subjekti uključeni u razvoj i

stavljanje na tržište aplikacija umjetne inteligencije od samog početka razmišljaju o

sigurnosti i etici, čime se priznaje da oni moraju biti spremni prihvatiti pravnu

odgovornost za kvalitetu tehnologije koju proizvode;

O. budući da je u Uredbi (EU) 2016/679 Europskog parlamenta i Vijeća1 (Opća uredba o

zaštiti podataka) utvrđen pravni okvir za zaštitu osobnih podataka; budući da će se

možda trebati dodatno rješavati pitanje daljnjih aspekata povezanih s pristupom

podacima i zaštitom osobnih podataka i privatnosti s obzirom na to da se mogu javiti

problemi zbog međusobne komunikacije aplikacija i uređaja te njihove komunikacije s

bazama podataka bez ljudske intervencije;

P. budući da se napredak u području robotike i umjetne inteligencije može i treba ostvariti

na način kojim se štiti dostojanstvo, autonomnost i samoodređenje pojedinca, posebno u

području ljudske skrbi i interakcije te u kontekstu medicinskih uređaja koji

„popravljaju” ili poboljšavaju ljude;

Q. budući da naposljetku postoji mogućnost da bi umjetna inteligencija dugoročno mogla

nadići ljudsku intelektualnu sposobnost;

R. budući da daljnji razvoj i povećano korištenje automatiziranog i algoritamskog

odlučivanja nesumnjivo utječe na konačne odluke koje donosi privatna osoba (poput

poslovnog subjekta ili internetskog korisnika) ili administrativno, pravosudno ili drugo

javno tijelo, a koje su potrošačke, poslovne ili administrativne prirode; budući da je u

postupak automatiziranog i algoritamskog odlučivanja potrebno uvrstiti zaštitne mjere i

mogućnost ljudske kontrole i verifikacije;

S. budući da nekoliko stranih jurisdikcija, kao što su SAD, Japan, Kina i Južna Koreja,

razmatra regulatorne mjere u području robotike i umjetne inteligencije, a do određene su

ih mjere već i poduzele, te budući da su neke države članice počele razmatrati

mogućnost osmišljavanja pravnih normi ili promjene zakonodavstva kako bi se uzele u

obzir nove aplikacije iz područja takvih tehnologija;

T. budući da bi europskoj industriji mogao koristiti učinkovit, usklađen i transparentan

pristup regulaciji na razini Unije kojim bi se utvrdili predvidljivi i dovoljno jasni uvjeti

pod kojima poduzeća mogu razvijati aplikacije i planirati svoje poslovne modele u

europskim razmjerima, a istovremeno bi se zajamčilo da Unija i njezine države članice

zadrže kontrolu nad regulatornim normama koje treba uspostaviti kako ne bi bile

prisiljene usvojiti i poštovati norme koje su im nametnuli drugi, odnosno treće zemlje

koje su također predvodnice u razvoju robotike i umjetne inteligencije;

1 Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s

obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive

95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).

PE582.443v03-00 6/65 RR\1115573HR.docx

HR

Opća načela

U. budući da Asimove zakone1 treba smatrati upućenima projektantima, proizvođačima i

operatorima robota, uključujući robote s integriranom autonomijom i mogućnošću

samostalnog učenja, s obzirom na to da ih se ne može prevesti u strojni kod;

V. budući da su korisna i nužna pravila kojima se uređuju, prije svega, odgovornost i

transparentnost te koja odražavaju suštinski europske i univerzalne humanističke

vrijednosti koje obilježavaju doprinos Europe društvu; budući da se takvim pravilima ne

smije utjecati na postupak istraživanja, inovacija i razvoja u području robotike;

W. budući da bi Europska unija mogla imati ključnu ulogu u uspostavljanju temeljnih

etičkih načela koja treba poštovati pri razvoju, programiranju i upotrebi robota i umjetne

inteligencije te u uključivanju tih načela u europske propise i kodekse ponašanja u cilju

utjecanja na tehnološku revoluciju na način da ona služi čovječanstvu te da koristi od

napredne robotike i umjetne inteligencije budu široko rasprostranjene, a da se pritom u

najvećoj mogućoj mjeri izbjegnu potencijalne zamke;

X. budući da je za Uniju potrebno usvojiti postupan, pragmatičan i oprezan pristup kakav

je zagovarao Jean Monnet2 u pogledu budućih inicijativa povezanih s robotikom i

umjetnom inteligencijom kako bi se zajamčilo da ne kočimo inovacije;

Y. budući da je s obzirom na razvojni stadij robotike i umjetne inteligencije vrijeme da se

započne s radom na pitanjima građanskopravne odgovornosti;

Odgovornost

Z. budući da današnji roboti, zahvaljujući impresivnim tehnološkim naprecima iz prošlog

desetljeća, nisu samo sposobni za obavljanje radnji koje su ranije bile tipične i

rezervirane isključivo za ljude već su, zahvaljujući razvoju određenih autonomnih i

kognitivnih obilježja, kao što su primjerice sposobnost za učenje iz iskustva i donošenje

donekle neovisnih odluka, sve sličniji agentima koji su u interakciji sa svojom okolinom

i sposobni su je znatno mijenjati; budući da je u tom kontekstu ključno pitanje pravna

odgovornost koja proizlazi iz štetnog djelovanja robota;

AA. budući da se autonomija robota može definirati kao sposobnost da donosi odluke i da ih

provodi u stvarnom svijetu, neovisno o vanjskoj kontroli i utjecajima; budući da je ta

autonomija isključivo tehnološke prirode i da njezin stupanj ovisi o tome za koliko je

sofisticiranu interakciju s okolinom robot dizajniran;

AB. budući da što su roboti autonomniji, to ih se manje može smatrati jednostavnim alatom

u rukama drugih aktera (kao što su proizvođač, operater, vlasnik, korisnik itd.); budući

da se time otvara pitanje jesu li dostatna obična pravila o odgovornosti ili to zahtijeva

1 (1) Robot ne smije naškoditi ljudskom biću ili svojom pasivnošću dopustiti da mu se naškodi. (2) Robot mora

slušati ljudske naredbe, osim kad su one u suprotnosti s prvim zakonom. (3) Robot mora štititi svoju

egzistenciju, osim kad je to u suprotnosti s prvim ili drugim zakonom (vidi „Izmotavanje” I. Asimov, 1943.) i (0)

Robot ne smije naškoditi čovječanstvu ili svojom pasivnošću dopustiti da mu se naškodi. 2 vidi Schumanovu deklaraciju iz 1950.: „Europa se neće stvoriti odjednom niti prema jedinstvenom planu.

Izgradit će se konkretnim postignućima koja će najprije stvoriti istinsku solidarnost.”

RR\1115573HR.docx 7/65 PE582.443v03-00

HR

uvođenje novih načela i pravila kojima se omogućuje jasnoća u pogledu pravne

odgovornosti različitih aktera kada je riječ o odgovornosti za djelovanja i propuste

robota u slučajevima kada se kao uzrok ne može odrediti specifični ljudski akter te je li

bilo moguće izbjeći djelovanja ili propuste robota koji su prouzročili štetu;

AC. budući da u se posljednje vrijeme zbog autonomije robota postavlja pitanje njihove

prirode u svjetlu postojećih pravnih kategorija ili bi pak za njih trebalo stvoriti novu

kategoriju s posebnim obilježjima i implikacijama;

AD. budući da se prema trenutačnom pravnom okviru roboti ne mogu smatrati odgovornima

per se za svoja djela i propuste kojima su oštećene treće osobe; budući da postojeća

pravila o odgovornosti pokrivaju slučajeve u kojima se uzrok djelovanja ili propusta

robota u konačnici može naći u djelovanju konkretnog ljudskog agenta, kao što je

primjerice proizvođač, operater, vlasnik ili korisnik koji je mogao predvidjeti i izbjeći

štetno ponašanje robota; budući da se, osim toga, proizvođači, operateri, vlasnici ili

korisnici mogu smatrati strogo odgovornima za djelovanja i propuste robota;

AE. budući da se aktualni pravni okvir za odgovornost za proizvode, prema kojem je

proizvođač odgovoran za neispravnost proizvoda, i propisi kojima se uređuje

odgovornost za štetno djelovanje, prema kojima je korisnik proizvoda odgovoran za

ponašanje koje vodi do štete, primjenjuju na štetu uzrokovanu robotima ili umjetnom

inteligencijom;

AF. budući da u scenariju u kojem robot donosi samostalne odluke tradicionalna pravila

neće biti dovoljna za rješavanje pitanja pravne odgovornosti za štetu uzrokovanu

robotom jer prema tim pravilima ne bi bilo moguće utvrditi koja je strana odgovorna za

odštetu i zahtijevati od nje da ispravi štetu koju je uzrokovala;

AG. budući da su tradicionalna pravila neprimjenjiva zbog nedostataka aktualnog pravnog

okvira koji se najbolje vide i u području ugovorne odgovornosti u slučajevima kad su

strojevi dizajnirani na način da sami mogu birati partnere, pregovarati o ugovornim

uvjetima, sklapati ugovore i odlučivati hoće li i kako će primjenjivati te ugovore te da

zbog toga do izražaja dolazi potreba za novim, učinkovitim i ažuriranim pravilima koja

trebaju biti usklađena s nedavnim tehnološkim razvojem i inovacijama koje se koriste

na tržištu;

AH. budući da u pogledu izvanugovorne odgovornosti Direktivom Vijeća 85/374/EEC1

obuhvaćena je samo šteta koja nastane zbog greške u proizvodnji robota i pod uvjetom

da oštećena osoba može dokazati stvarnu štetu, neispravnost proizvoda i uzročnu vezu

između štete i neispravnosti, stoga možda neće biti dostatan okvir koji uključuje strogu

odgovornost ili odgovornost bez krivnje;

AI. budući da usprkos području primjene Direktive 85/374/EEZ trenutačni pravni okvir ne

bi bio dovoljan da se pokrije šteta koju je uzrokovao robot nove generacije jer on može

imati sposobnost prilagodbe i učenja, što sa sobom povlači određen stupanj

nepredvidljivosti njegova ponašanja s obzirom na to da bi takvi roboti mogli samostalno

učiti iz vlastitih i promjenjivih iskustava te biti u interakciji sa svojom okolinom na

1 Direktiva Vijeća 85/374/EEZ od 25. srpnja 1985. o približavanju zakona i drugih propisa država članica u vezi

s odgovornošću za neispravne proizvode (SL L 210., 7.8.1985., str. 29.).

PE582.443v03-00 8/65 RR\1115573HR.docx

HR

jedinstven i nepredvidljiv način;

Opća načela razvoja robotike i umjetne inteligencije za civilnu upotrebu

1. poziva Komisiju da predloži zajedničku europsku definiciju kiberfizičkih sustava,

autonomnih sustava, pametnih autonomnih robota i njihovih potkategorija uzimajući u

obzir sljedeća obilježja pametnih robota:

– sposobnost autonomnog rada s pomoću senzora i/ili razmjene podataka s

okolinom (međusobna povezivost) te dijeljenja i analize tih podataka

– samostalno učenje iz iskustva ili s pomoću interakcije (fakultativni kriterij)

– barem manja fizička potpora

– prilagodba ponašanja i djelovanja u odnosu na okolinu

– nedostatak života u biološkom smislu;

2. smatra da treba uvesti sveobuhvatni sustav Unije za registraciju naprednih robota u

okviru unutarnjeg tržišta Unije kada je to relevantno i potrebno za specifične kategorije

robota te poziva Komisiju da uspostavi kriterije za klasifikaciju robota koje bi trebalo

registrirati; u tom kontekstu poziva Komisiju da istraži bi li bilo poželjno da takvim

sustavom za registraciju i registrom upravlja Agencija EU-a za robotiku i umjetnu

inteligenciju koja bi bila imenovana za taj zadatak;

3. ističe da bi se razvoj robotike trebao usredotočiti na dopunjavanje ljudskih sposobnosti,

a ne na njihovo zamjenjivanje; smatra da je u razvoju robotike i umjetne inteligencije

ključno zajamčiti da ljudi uvijek imaju kontrolu nad inteligentnim strojevima; smatra da

je potrebno usmjeriti posebnu pozornost na mogući razvoj emotivne veze između ljudi i

robota, posebno u osjetljivim skupinama kako što su djeca, starije osobe i osobe s

invaliditetom, te ističe pitanja koja se otvaraju zbog mogućeg ozbiljnog emotivnog i

fizičkog utjecaja takve emotivne veze na ljude;

4. naglašava da se jedinstvenim pristupom na razini Unije može olakšati razvoj jer se na

taj način izbjegava fragmentacija na unutarnjem tržištu i istovremeno naglašava važnost

načela međusobnog priznavanja u prekograničnoj upotrebi robota i robotskih sustava;

podsjeća da bi se testiranja, izdavanje certifikata i odobrenje za stavljanje na tržište

trebali zahtijevati u samo jednoj državi članici; naglašava da bi taj pristup trebao biti

popraćen djelotvornim nadzorom tržišta;

5. ističe važnost mjera za pomoć malim i srednjim poduzećima te novoosnovanim (start-

up) poduzećima u sektoru robotike, koja stvaraju nove tržišne segmente u tom sektoru i

koriste robote;

Istraživanja i inovacije

6. ističe da su mnoge robotske aplikacije još uvijek u eksperimentalnoj fazi; pozdravlja

činjenicu da države članice i Unija financiraju sve više istraživačkih projekata; smatra

RR\1115573HR.docx 9/65 PE582.443v03-00

HR

da je ključno da Unija, zajedno s državama članicama s pomoću javnog financiranja,

ostane predvodnik u istraživanju u području robotike i umjetne inteligencije; poziva

Komisiju i države članice da ojačaju financijske instrumente za istraživačke projekte u

području robotike i informacijsko-komunikacijske tehnologije, uključujući javno-

privatna partnerstva, te da u svoje politike u području istraživanja uvrste načela

otvorene znanosti i odgovorne etičke inovacije; naglašava da treba uložiti dovoljno

sredstava u pronalazak rješenja za društvene, etičke, pravne i gospodarske izazove koji

proizlaze iz tehnološkog razvoja i njegovih primjena;

7. poziva Komisiju i države članice da potaknu istraživačke programe, istraživanja o

mogućim dugoročnim opasnostima i mogućnostima koje proizlaze iz tehnologija

umjetne inteligencije i robotike te da čim prije potaknu pokretanje strukturiranog javnog

dijaloga o posljedicama razvoja takvih tehnologija; poziva Komisiju da poveća potporu

u okviru revizije višegodišnjeg financijskog okvira na sredini razdoblja za program

SPARC koji se financira iz programa Obzor 2020.; poziva Komisiju i države članice da

usmjere zajedničke napore u pažljivo praćenje i jamčenje jednostavnijeg prijelaza tih

tehnologija iz faze istraživanja u fazu stavljanja na tržište i korištenja na tržištu nakon

provođenja prikladnih sigurnosnih procjena u skladu s načelom predostrožnosti;

8. ističe da inovacije u području robotike i umjetne inteligencije te integracija tehnologije

robotike i umjetne inteligencije u gospodarstvo i društvo zahtijevaju digitalnu

infrastrukturu kojom se omogućava univerzalna povezivost; poziva Komisiju da

uspostavi okvir kojim će se zadovoljiti uvjeti u pogledu povezivosti za digitalnu

budućnost Unije i da se pobrine za to da pristup širokopojasnoj i 5G mreži bude

potpuno u skladu s načelom mrežne neutralnosti;

9. čvrsto je uvjeren da je interoperabilnost među sustavima, uređajima i uslugama u

oblaku, utemeljena na integriranoj sigurnosti i privatnosti, nužna za protok podataka u

stvarnom vremenu, kojim se omogućava veća fleksibilnost i autonomnost robota i

umjetne inteligencije; poziva Komisiju da promiče otvoreno okružje, od otvorenih

standarda i inovativnih modela licenciranja do otvorenih platformi i transparentnosti,

kako bi se izbjegla ovisnost o vlasničkim sustavima kojima se ograničava

interoperabilnost;

Etička načela

10. napominje da je potencijal za napredak s pomoću primjene robotike obilježen nizom

napetosti ili rizicima koje je potrebno ozbiljno razmotriti u pogledu sigurnosti, zdravlja i

zaštite ljudi, slobode, privatnosti, integriteta i digniteta te samoodređenja,

nediskriminacije i zaštite osobnih podataka;

11. smatra da je aktualni pravni okvir potrebno ažurirati i nadopuniti, kada je to prikladno,

usmjerenim etičkim načelima koja odražavaju složenost područja robotike i njenih

brojnih društvenih, medicinskih i bio-etičkih implikacija; smatra da su potrebne jasne,

stroge i učinkovite okvirne etičke smjernice za razvoj, projektiranje, proizvodnju,

upotrebu i izmjenu robota kojima će se nadopuniti pravne preporuke iz ovog izvješća te

postojeća pravna stečevina država članica i Unije; u prilogu Rezoluciji predlaže okvir u

obliku povelje koja bi sadržavala kodeks ponašanja za inženjere robotike, kodeks za

povjerenstva koji se bave istraživačkom etikom koji bi se koristio pri preispitivanju

PE582.443v03-00 10/65 RR\1115573HR.docx

HR

protokola robotike te obrasce dozvola za dizajnere i korisnike;

12. ističe načelo transparentnosti, tj. da treba uvijek biti moguće opravdati sve odluke koje

se donose s pomoću umjetne inteligencije i koje mogu znatno utjecati na život jedne ili

više osoba; smatra da treba uvijek biti moguće prevesti izračune sustava umjetne

inteligencije u oblik razumljiv ljudima; smatra da napredni roboti moraju biti opremljeni

„crnom kutijom” u kojoj su pohranjeni podaci o svim transakcijama koje stroj izvršava,

uključujući logika koja je dovela do njegovih odluka;

13. ističe da bi okvirne etičke smjernice trebale biti utemeljene na načelima djelovanja u

interesu dobrobiti, neštetnosti, autonomije i pravde, kao i na načelima i vrijednostima

utvrđenima u članku 2. Ugovora o Europskoj uniji i u Povelji o temeljnim pravima, kao

što su ljudsko dostojanstvo, ravnopravnost, pravda i jednakost, nediskriminacija,

informirani pristanak, zaštita privatnog i obiteljskog života i podataka, kao i na drugim

temeljnim načelima i vrijednostima zakonodavstva Unije poput nestigmatizacije,

transparentnosti, autonomije, individualne i društvene odgovornosti, te na postojećoj

etičkoj praksi i kodeksima;

14. smatra da je potrebno posebnu pozornost usmjeriti na robote koji predstavljaju znatnu

opasnost u pogledu povjerljivosti zbog njihova postavljanja u tradicionalno zaštićena i

privatna okruženja te zbog njihove mogućnosti izvlačenja i slanja osobnih i osjetljivih

podataka;

Europska agencija

15. smatra da je potrebna pojačana suradnja između država članica i Komisije kako bi se

zajamčila usklađena prekogranična pravila u Uniji kojima se potiče suradnja među

europskim industrijama i omogućuje diljem Unije stavljanje u upotrebu robota koji su

usklađeni s potrebnom razinom zaštite i sigurnosti, kao i s etičkim načelima iz

zakonodavstva Unije;

16. traži od Komisije da razmotri osnivanje Europske agencije za robotiku i umjetnu

inteligenciju u cilju pružanja tehničkog, etičkog i regulatornog stručnog znanja koje je

potrebno kako bi se na razini EU-a i na razini država članica pružila podrška

relevantnim javnim akterima u njihovim naporima da zajamče pravodoban, etički i

informiran odgovor na nove prilike i izazove, posebno na one koji su prekogranične

prirode, koji proizlaze iz tehnološkog razvoja robotike, primjerice u prometnom

sektoru;

17. smatra da je zbog potencijala i problema povezanih s upotrebom robotike i zbog

aktualne dinamike ulaganja opravdano da Europska agencija raspolaže odgovarajućim

proračunom i osobljem koje čine regulatori i vanjski tehnički i etički stručnjaci, koji po

sektorima i multidisciplinarno prate robotske aplikacije, utvrđuju norme za najbolje

prakse i, prema potrebi, predlažu regulatorne mjere, utvrđuju nova načela te se bave

potencijalnim problemima u vezi sa zaštitom potrošača i sistemskim izazovima; poziva

Komisiju (i Europsku agenciju, ako se osnuje) da svake godine izvještavaju Europski

parlament o novostima u razvoju robotike i o svim mjerama koje je potrebno poduzeti;

RR\1115573HR.docx 11/65 PE582.443v03-00

HR

Prava intelektualnog vlasništva i prijenos podataka

18. napominje da ne postoje posebne pravne odredbe za robotiku, ali da se postojeći pravni

režimi i doktrine mogu primijeniti na robotiku, s time da neke aspekte treba posebno

razmotriti; poziva Komisiju da podrži horizontalan i tehnološki neutralan pristup

intelektualnom vlasništvu koji se primjenjuje na različite sektore u kojima se bi se

mogla koristiti robotika;

19. poziva Komisiju i države članice da zajamče usklađenost građanskopravnih propisa u

sektoru robotike s Općom uredbom o zaštiti podataka te s načelima nužnosti i

proporcionalnosti; poziva Komisiju i države članice da uzmu u obzir brz tehnološki

razvoj u području robotike, uključujući razvoj kiberfizičkih sustava, te da zajamče da

zakonodavstvo Unije ne zaostaje za krivuljom tehnološkog razvoja i stavljanja

tehnologije u upotrebu;

20. naglašava da se pravo na zaštitu privatnog života i osobnih podataka u skladu s

člancima 7. i 8. Povelje i člankom 16. Ugovora o funkcioniranju Europske unije

(UFEU) primjenjuje na sva područja robotike te da je potrebno u potpunosti poštovati

pravni okvir Unije; u tom pogledu poziva na preispitivanje propisa i kriterija u vezi s

upotrebom kamera i senzora u robotima; poziva Komisiju da zajamči poštovanje načela

o zaštiti podataka kao što su integrirana i zadana privatnost, smanjenje količine

podataka i ograničavanje svrhe te transparentnih kontrolnih mehanizama za osobe čiji se

podaci obrađuju i prikladnih pravnih lijekova u skladu sa zakonodavstvom Unije o

zaštiti podataka, te da zajamči poticanje prikladnih preporuka i normi i njihovu

integraciju u politike Unije;

21. naglašava da je slobodan protok podataka iznimno važan za digitalno gospodarstvo i

razvoj sektora robotike i umjetne inteligencije; ističe da je visoka razina sigurnosti

robotskih sustava, uključujući njihove interne sustave podataka i protok podataka,

ključna za primjerenu upotrebu robota i umjetne inteligencije; naglašava da je potrebno

zajamčiti zaštitu mreža međusobno povezanih robota i umjetne inteligencije kako bi se

spriječile moguće povrede sigurnosti; ističe da je ključna visoka razina sigurnosti i

zaštite osobnih podataka, uzimajući u obzir privatnost u komunikaciji između ljudi,

robota i umjetne inteligencije; ističe odgovornost dizajnera sustava robotike i umjetne

inteligencije da razvijaju proizvode na način da budu sigurni i prilagođeni svrsi; poziva

Komisiju i države članice da osiguraju podršku i poticaje za razvoj potrebne

tehnologije, uključujući integriranu sigurnost;

Normizacija, sigurnost i zaštita

22. ističe da je pitanje utvrđivanja normi i omogućavanja interoperabilnosti ključno za

buduću konkurentnost u području tehnologija umjetne inteligencije i robotike; poziva

Komisiju da nastavi s radom na međunarodnom usklađivanju tehničkih normi, posebno

u suradnji s europskim organizacijama za normizaciju i Međunarodnom organizacijom

za normizaciju, kako bi se potaknule inovacije, izbjegla fragmentacija unutarnjeg tržišta

i zajamčila visoka razina sigurnosti proizvoda i zaštite potrošača, uključujući kada je to

prikladno minimalne norme o sigurnosti na radu; ističe važnost zakonitog obrnutog

inženjeringa i otvorenih standarda u cilju postizanja maksimalne vrijednosti inovacija i

jamčenja da roboti mogu međusobno komunicirati; u tom smislu pozdravlja osnivanje

PE582.443v03-00 12/65 RR\1115573HR.docx

HR

posebnih tehničkih odbora, poput ISO/TC 299 Robotika, čiji je cilj isključivo raditi na

razvoju standarda u području robotike;

23. naglašava da je testiranje robota u stvarnim uvjetima ključno za utvrđivanje i ocjenu

rizika koje bi roboti mogli uzrokovati te za ocjenu stadija tehnološkog razvoja robota

izvan isključivo eksperimentalnih laboratorijskih uvjeta; u tom pogledu ističe da je

testiranje robota u stvarnim uvjetima, posebno u gradovima i na cestama, višestruko

problematično i nailazi na prepreke kojima se usporava razvoj tih faza testiranja, te da je

u tom pogledu potrebna djelotvorna strategija i kontrolni mehanizam; poziva Komisiju

da izradi jedinstvene kriterije za sve države članice koje bi one pojedinačno trebale

primjenjivati kako bi utvrdile u kojim je područjima dozvoljeno eksperimentiranje s

robotima, u skladu s načelom predostrožnosti;

Autonomna prijevozna sredstva

a) Autonomna vozila

24. ističe da autonomni prijevoz obuhvaća sve vrste daljinski upravljanog, automatiziranog,

umreženog i autonomnog cestovnog, željezničkog, vodenog i zračnog prijevoza,

uključujući vozila, vlakove, plovila, trajekte, zrakoplove, bespilotne letjelice, kao i sve

buduće oblike razvoja i inovacija u tom sektoru;

25. smatra da je potrebno hitno uvesti učinkovita europska i globalna pravila u automobilski

sektor kako bi se zajamčio prekogranični razvoj automatiziranih i autonomnih vozila i u

potpunosti iskoristio njihov ekonomski potencijal te dobila najveća moguća korist od

pozitivnih učinaka tehnoloških trendova; ističe da fragmentiranost regulatornih pristupa

otežava provedbu autonomnih prometnih sustava i može ugroziti europsku

konkurentnost;

26. skreće pozornost na činjenicu da je vrijeme reakcije vozača u slučaju neplaniranog

preuzimanja nadzora nad vozilom iznimno važno te stoga poziva odgovarajuće dionike

da utvrde realne vrijednosti koje su odlučujuće za pitanja sigurnosti i odgovornosti;

27. smatra da će prelazak na autonomna vozila imati učinak na sljedeće aspekte:

građanskopravnu odgovornost (odgovornost i osiguranje), sigurnost na cestama, sva

pitanja povezana s okolišem (npr. energetska učinkovitost, korištenje obnovljivih

tehnologija i izvora energije), pitanja povezana s podacima (npr. pristup podacima,

zaštita podataka i privatnosti, dijeljenje podataka), pitanja povezana s infrastrukturom

informacijsko-komunikacijske tehnologije (npr. velika koncentracija učinkovite i

pouzdane komunikacije) i zapošljavanje (npr. otvaranje i gubitak radnih mjesta, obuka

vozača teretnih vozila za rukovanje automatiziranim vozilima); naglašava da će biti

potrebna znatna ulaganja u cestovnu i energetsku infrastrukturu te u infrastrukturu

povezanu s informacijskim i komunikacijskim tehnologijama; poziva Komisiju da u

svojem radu povezanom s autonomnim vozilima u obzir uzme spomenute aspekte;

28. naglašava da su pouzdane informacije o položaju i vremenu koje pružaju europski

satelitski navigacijski programi Galileo i EGNOS od ključne važnosti za uvođenje

autonomnih vozila te u tom pogledu potiče na finalizaciju i lansiranje satelita potrebnih

za dovršetak europskog sustava pozicioniranja Galileo;

RR\1115573HR.docx 13/65 PE582.443v03-00

HR

29. skreće pozornost na veliku dodanu vrijednost autonomnih vozila za osobe sa

smanjenom pokretljivošću, s obzirom na to da im takva vozila omogućuju učinkovitije

sudjelovanje u individualnom cestovnom prometu, čime se olakšava i njihov

svakodnevni život;

b) Bespilotne letjelice (RPAS)

30. priznaje pozitivan napredak u području tehnologije bespilotnih letjelica, posebno u

području traganja i spašavanja; ističe važnost okvira Unije za bespilotne letjelice kako

bi se očuvale sigurnost, zaštita i privatnost građana Unije te poziva Komisiju da postupi

na temelju preporuka iz Rezolucije Europskog parlamenta od 29. listopada 2015. o

sigurnoj upotrebi zrakoplovnih sustava na daljinsko upravljanje (RPAS), opće poznatih

kao bespilotne letjelice, u civilnom zrakoplovstvu1; potiče Komisiju da izvrši procjene u

pogledu sigurnosnih pitanja povezanih s raširenom upotrebom bespilotnih letjelica;

poziva Komisiju da razmotri potrebu za uvođenjem obveznog sustava praćenja i

identifikacije za zrakoplovne sustave na daljinsko upravljanje, kojim se omogućuje

utvrđivanje položaja letjelica u stvarnom vremenu tijekom njihove upotrebe; podsjeća

da bi homogenost i sigurnost zrakoplova bez posade trebalo zajamčiti mjerama

utvrđenima u Uredbi (EZ) br. 216/2008 Europskog parlamenta i Vijeća2;

Roboti za njegu

31. naglašava da su istraživanje i razvoj u području robotike za skrb za starije osobe s

vremenom postali rašireniji i jeftiniji te nastaju proizvodi bolje funkcionalnosti koje

potrošači bolje prihvaćaju; napominje da takve tehnologije, koje starijim osobama,

osobama s invaliditetom i osobama koje pate od demencije, kognitivnih poremećaja i

gubitka pamćenja pružaju usluge prevencije, pomoći, praćenja, poticanja i socijalne

interakcije, imaju široku primjenu;

32. ističe da je ljudski kontakt jedan od temeljnih aspekata ljudske njege; vjeruje da bi se

zamjenom ljudskog faktora robotima mogle dehumanizirati prakse njege, međutim,

prima na znanje da bi roboti mogli izvršavati automatizirane zadaće njege i pomoći

njegovateljima u njihovom radu, uz poboljšanje ljudske njege i bolje usmjeravanje

procesa rehabilitacije, zbog čega bi medicinsko osoblje i njegovatelji mogli posvetiti

više vremena dijagnostici i bolje isplaniranim opcijama liječenja; ističe da, iako se

robotikom može poboljšati mobilnost i integracija osoba s invaliditetom i starijih osoba,

ljudski njegovatelji će i dalje biti potrebni te nastaviti imati važnu ulogu koja nije u

potpunosti zamjenjiva u socijalnoj interakciji;

Medicinski roboti

33. naglašava važnost odgovarajućeg obrazovanja, osposobljavanja i pripreme zdravstvenih

1 Usvojeni tekstovi, P8_TA(2015)0390. 2 Uredba (EZ) br. 216/2008 Europskog parlamenta i Vijeća od 20. veljače 2008. o zajedničkim pravilima u

području civilnog zrakoplovstva i osnivanju Europske agencije za sigurnost zračnog prometa i stavljanju izvan

snage Direktive Vijeća 91/670/EEZ, Uredbe (EZ) br. 1592/2002 i Direktive 2004/36/EZ (SL L 79, 19.3.2008.,

str. 1.).

PE582.443v03-00 14/65 RR\1115573HR.docx

HR

djelatnika poput doktora i njegovatelja kako bi se zajamčila najviša moguća razina

stručne sposobnosti i zaštitilo zdravlje pacijenata; ističe da je potrebno odrediti

minimalne stručne uvjete na temelju kojih će se kirurzima dopuštati rukovanje

kirurškim robotima i njihova upotreba; smatra da je od temeljne važnosti poštovanje

načela nadzirane autonomije robota na temelju kojega početno planiranje liječenja i

konačan odabir načina izvršenja ostaju uvijek u domeni odluke ljudskog kirurga;

naglašava posebnu važnost obuke za korisnike kojom će im se omogućiti bolje

upoznavanje s tehnološkim zahtjevima u tom području; usmjerava pozornost na sve veći

trend samodijagnosticiranja korištenjem mobilnog robota i, kao posljedica toga, na

potrebu da se liječnike osposobi za rješavanje samodijagnosticiranih slučajeva; smatra

da upotreba takvih tehnologija ne smije umanjiti odnos liječnik-pacijent niti mu

naštetiti, već treba pružati pomoć liječnicima pri dijagnosticiranju i/ili liječenju

pacijenta u cilju smanjenja opasnosti od ljudske greške i povećanja kvalitete života i

očekivanog životnog vijeka;

34. smatra da medicinski roboti imaju sve veću ulogu u operacijama visoke preciznosti i u

izvođenju postupaka koji se ponavljaju te da oni mogu poboljšati rezultate u

rehabilitaciji i pružati vrlo učinkovitu logističku potporu u bolnicama; napominje da se

robotima mogu potencijalno smanjiti troškove zdravstvene skrbi jer će se zdravstvenim

djelatnicima omogućiti da se usredotoče na prevenciju umjesto na liječenje, a više

proračunskih sredstava namijenit će se za bolju prilagodbu različitim potrebama

pacijenata, stalnom osposobljavanju zdravstvenih djelatnika i istraživanju;

35. poziva Komisiju da prije datuma početka primjene Uredbe o medicinskim uređajima1

zajamči da su postupci za ispitivanje novih medicinskih robota sigurni, posebno ako je

riječ o uređajima koji se implantiraju u ljudsko tijelo;

„Popravljanje” organa i „poboljšavanje” ljudskog tijela

36. ističe važan razvoj i daljnji potencijal robotike u području „popravljanja” i

nadomještanja oštećenih ljudskih organa i funkcija, ali i kompleksna pitanja koja se

otvaraju zbog mogućnosti „poboljšanja” ljudskog tijela jer medicinski roboti i posebno

kiberfizički sustavi mogu izmijeniti naša razmišljanja o zdravom ljudskom tijelu budući

da ih je moguće nositi izravno na ljudskom tijelu ili mogu biti ugrađeni u ljudsko tijelo;

naglašava da je važno da se u bolnicama i drugim ustanovama zdravstvene skrbi hitno

uspostave povjerenstva za etiku u robotici s prikladnim osobljem radi razmatranja

neuobičajenih i kompliciranih etičkih problema povezanih s pitanjima njege i liječenja

pacijenata te radi pomaganja pri rješavanju tih problema; poziva Komisiju i države

članice da osmisle smjernice za pomoć pri uspostavi i radu takvih povjerenstava;

37. smatra da je u području životno važne medicinske primjene, poput robotskih proteza,

nužno pružiti stalnu i održivu mogućnost održavanja i poboljšanja te, posebice,

softverskih ažuriranja kojima se ispravljaju nedostaci i slabe točke;

38. preporučuje osnivanje neovisnih tijela kako bi se zajamčilo pružanje usluga osobama

1 Vidi Zakonodavnu rezoluciju Europskog parlamenta od 2. travnja 2014. o priejdlogu uredbe Europskog

parlamenta i Vijeća o medicinskim uređajima i o izmjeni Direktive 2001/83/EZ, Uredbe (EZ) br. 178/2002 i

Uredbe (EZ) br. 1223/2009 (COM(2012)0542 – C7-0318/2012 – 2012/0266(COD)).

RR\1115573HR.docx 15/65 PE582.443v03-00

HR

koje imaju životno važne i napredne medicinske uređaje, kao što su održavanje,

popravci i poboljšanja, uključujući softversko ažuriranje, posebno u slučajevima kada

originalni pružatelj više ne pruža takve usluge; predlaže da se uvede obveza za

proizvođače da tim neovisnim tijelima pružaju kompletne upute za projektiranje,

uključujući izvorni kod, slično pravnoj obvezi pružanja publikacija nacionalnoj

knjižnici;

39. skreće pozornost na rizike povezane s mogućnošću da kibernetičko-fizički sustavi

integrirani u ljudsko tijelo budu hakirani, isključeni ili da im se izbrišu računalne

memorije jer bi se tako moglo ugroziti ljudsko zdravlje, a u krajnjim slučajevima i

ljudski životi, te stoga ističe da zaštita tih sustava mora biti prioritet;

40. ističe važnost jamčenja jednakog pristupa za sve osobe takvim tehnološkim

inovacijama, alatima i intervencijama; traži od Komisije i država članica da promiču

razvoj pomoćnih tehnologija kako bi se potaknuo razvoj tih tehnologija i kako bi ih

osobe kojima su potrebne usvojile, u skladu s člankom 4. Konvencije UN-a o pravima

osoba s invaliditetom koju je potpisala Unija;

Obrazovanje i zapošljavanje

41. skreće pozornost na predviđanja Komisije prema kojima bi do 2020. Europi moglo

nedostajati do 825 000 stručnjaka za informacijske i komunikacijske tehnologije (ICT),

a za 90 % poslova bit će potrebne barem osnovne digitalne vještine; pozdravlja

inicijativu Komisije da predloži plan za moguću upotrebu i reviziju Okvira digitalne

kompetencije i opisa digitalnih kompetencija za sve razine učenja te poziva Komisiju da

pruži znatnu potporu razvoju digitalnih vještina u svim dobnim skupinama i neovisno o

radnom statusu, kao prvi korak prema boljem usklađivanju nedostataka i potražnje na

tržištu rada; naglašava da rast sektora robotike zahtijeva da države članice razviju

fleksibilnije sustava za osposobljavanje i obrazovanje kako bi se zajamčila usklađenost

strategija povezanih s vještinama i potreba gospodarstva u području robotike;

42. smatra da bi poticanje interesa mladih žena za karijeru u digitalnom sektoru i

zapošljavanje više žena na digitalnim radnim mjestima bilo korisno za digitalnu

industriju, žene i europsko gospodarstvo; poziva Komisiju i države članice da pokrenu

inicijative za pružanje podrške ženama u sektoru ICT-a i za poboljšavanje njihovih e-

vještina;

43. poziva Komisiju da počne pomnije analizirati i pratiti srednjoročne i dugoročne

trendove u području zapošljavanja i da pritom posebno obrati pažnju na otvaranje,

premještanje i gubitke radnih mjesta u različitim područjima stručnosti kako bi se

saznalo u kojim se područjima otvaraju nova radna mjesta, a u kojima nestaju zbog

povećane upotrebe robota;

44. ističe važnost predviđanja društvenih promjena, imajući na umu moguće posljedice

razvoja i primjene robotike i umjetne inteligencije; traži od Komisije da analizira

različite moguće scenarije i njihove posljedice na održivost sustava socijalne zaštite u

državama članicama; smatra da je potrebno pokrenuti uključivu raspravu o novim

modelima zapošljavanja i održivosti naših fiskalnih i socijalnih sustava na temelju

postojanja dostatnog dohotka, uključujući moguće uvođenje općeg osnovnog dohotka;

PE582.443v03-00 16/65 RR\1115573HR.docx

HR

45. ističe važnost fleksibilnosti vještina te društvenih, kreativnih i digitalnih vještina u

obrazovanju; uvjeren je da se, osim školama koje pružaju akademsko znanje, potrebe za

cjeloživotnim učenjem trebaju ostvarivati cjeloživotnim aktivnostima;

46. napominje da se robotikom uvelike može poboljšati sigurnost na radu

preusmjeravanjem brojnih opasnih i štetnih zadataka od ljudi na robote, međutim,

istovremeno napominje da se time može stvoriti novi niz opasnosti zbog povećanog

broja interakcija između ljudi i robota na radnom mjestu; u tom pogledu ističe važnost

primjenjivanja strogih i naprednih pravila za interakcije između ljudi i robota kako bi se

zajamčilo zdravlje, sigurnost i poštovanje temeljnih prava na radnom mjestu;

Utjecaj na okoliš

47. napominje da se robotika i umjetna inteligencija trebaju razvijati na način kojim se

utjecaj na okoliš ograničava učinkovitom energetskom potrošnjom, energetskom

učinkovitošću promicanjem korištenja obnovljive energije i rijetkih materijala,

minimalnim otpadom, poput električnog i elektroničkog otpada, te mogućnošću

popravljanja; stoga potiče Komisiju da načela kružne ekonomije uvrsti u svaku politiku

Unije o robotici; također primjećuje da će primjena robotike imati pozitivan utjecaj na

okoliš, posebno u područjima poljoprivrede, opskrbe hranom i prometa, konkretno

zahvaljujući smanjenoj veličini strojeva, smanjenoj uporabi gnojiva, energije i vode te

preciznoj poljoprivredi i optimizacije ruta;

48. ističe da će kibernetičko-fizički sustavi dovesti do stvaranja energetskih i

infrastrukturnih sustava koji mogu nadzirati protok električne energije od proizvođača

do potrošača te će također dovesti do nastanka „proizvođača-potrošača” električne

energije, koji i proizvode i troše energiju, čime će se omogućiti velike koristi za okoliš;

Odgovornost

49. smatra da je građanskopravna odgovornost za štetu prouzročenu robotima ključno

pitanje koje je potrebno analizirati i riješiti na razini Unije kako bi se postigao jednak

stupanj učinkovitosti, transparentnosti i usklađenosti pri jamčenju pravne sigurnosti u

cijeloj Europskoj uniji, u korist građana, potrošača i poduzeća;

50. napominje da će razvoj tehnologije u području robotike zahtijevati bolje razumijevanje

temelja potrebnog za zajedničko djelovanje ljudi i robota koje bi se trebalo osnivati na

dvjema međuovisnim značajkama kao što su predvidivost i usmjerenost; ističe da su te

dvije međuovisne značajke ključne za utvrđivanje koje je informacije potrebno

podijeliti između ljudi i robota te načina na koji se može postići zajednička osnova

između ljudi i robota kako bi se omogućilo glatko zajedničko djelovanje ljudi i robota;

51. traži od Komisije da na temelju članka 114. UFEU-a podnese prijedlog zakonodavnog

instrumenta za pravna pitanja povezana s razvojem i korištenjem robotike i umjetne

inteligencije koji se predviđa za sljedećih 10-15 godina, zajedno s nezakonodavnim

instrumentima kao što su smjernice i kodeksi ponašanja, u skladu s preporukama iz

Priloga;

RR\1115573HR.docx 17/65 PE582.443v03-00

HR

52. smatra da se, koje god se pravno rješenje primijeni u pogledu građanskopravne

odgovornosti za štetu prouzročenu robotima u slučajevima koji nisu povezani s

materijalnom štetom, budućim pravnim instrumentom ni na koji način ne smiju

ograničavati vrsta ili opseg štete koju je moguće nadoknaditi, kao ni oblici naknade koji

se mogu ponuditi oštećenoj strani samo na temelju činjenice da je šteta prouzročena

neljudskim čimbenikom;

53. smatra da bi se budući zakonodavni instrument trebao temeljiti na detaljnoj procjeni

Komisije o tome treba li se primjenjivati pristup stroge odgovornosti ili pristup

upravljanja rizicima;

54. istovremeno napominje da pristup stroge odgovornosti zahtijeva samo dokaz o šteti i

uspostavljanje uzročne veze između štetnog djelovanja robota i štete koju je pretrpjela

oštećena strana;

55. napominje da pristup upravljanja rizicima nije usmjeren na osobu „koja je postupala

nemarno” i koja je pojedinačno odgovorna već na osobu koja može, pod određenim

okolnostima, svesti rizike na najmanju moguću mjeru i rješavati negativne učinke;

56. smatra da, kad se utvrdi koje strane snose krajnju odgovornost, ta odgovornost u načelu

treba biti razmjerna stvarnoj razini uputa danih robotu i autonomije robota, tako da je

odgovornost „učitelja” robota veća što je sposobnost učenja ili autonomija robota veća i

što je dulje trajala „obuka” robota; posebno napominje da pri utvrđivanju tko je

odgovoran za štetno ponašanje robota treba razlikovati vještine koje proizlaze iz

„obuke” robota i one koje ovise isključivo o sposobnosti robota za samostalno učenje;

napominje da barem u aktualnoj fazi odgovornost mora biti u rukama čovjeka, a ne

robota;

57. ističe da je obvezni sustav osiguranja kakav se koristi, primjerice, za automobile,

moguće rješenje za složenost utvrđivanja odgovornosti za štetu koju prouzroče sve

autonomniji roboti; ipak, napominje da bi se, za razliku od sustava osiguranja za

cestovni promet kojim se pokrivaju ljudsko djelovanje i propusti, sustavom osiguranja

za robotiku trebale uzeti u obzir sve moguće odgovornosti u lancu;

58. smatra da bi se, kao i u slučaju osiguranja motornih vozila, takav sustav osiguranja

mogao nadopuniti fondom kojim će se zajamčiti naknada štete kad osiguranje ne

postoji; poziva sektor osiguranja da osmisli nove proizvode i vrste ponuda prilagođene

napretku u području robotike;

59. poziva Komisiju da pri provedbi procjene učinka budućeg zakonodavnog instrumenta

istraži, analizira i razmotri posljedice svih mogućih pravnih rješenja, kao što su:

a) uspostava sustava obveznog osiguranja, kada je to prikladno i potrebno za

specifične kategorije robota, prema kojem bi, slično kao kod osiguranja

automobila, proizvođači ili vlasnici robota bili dužni ugovoriti osiguranje za štetu

koju bi mogli uzrokovati njihovi roboti;

b) jamstvo da fond za naknadu štete ne bi služio samo za jamčenje naknade štete u

slučaju da je štetu uzrokovao neosigurani robot;

PE582.443v03-00 18/65 RR\1115573HR.docx

HR

c) omogućavanje proizvođaču, programeru, vlasniku ili korisniku da imaju koristi od

stroge odgovornosti ako doprinose fondu za naknadu štete te ako zajedno imaju

osiguranje kojim se jamči naknada u slučajevima kada robot uzrokuje štetu;

d) odluka treba li osnovati opći fond za sve pametne autonomne robote ili posebne

fondove za svaku kategoriju robota te treba li se doprinos plaćati jednokratno kad

se robot stavi na tržište ili periodično tijekom životnog vijeka robota;

e) uvođenje individualnog registarskog broja u posebnom registru Unije zahvaljujući

kojem bi se robota lako moglo povezati s njegovim fondom, a osobe u interakciji

s robotom mogle bi dobiti informacije o prirodi fonda, granicama odgovornosti u

slučaju materijalne štete, imenima i funkcijama doprinositelja te sve druge

relevantne pojedinosti;

f) stvaranje posebnog dugoročnog pravnog statusa za robote kako bi barem

najsofisticiraniji autonomni roboti mogli imati status elektroničkih osoba s

odgovornošću ispravljanja štete koju su uzrokovali te moguća primjena statusa

elektroničke osobe u slučajevima kad roboti donesu pametnu autonomnu odluku

ili na neki drugi način neovisno međudjeluju s trećim stranama;

g) uvođenje prikladnog instrumenta za potrošače koji žele kolektivno od odgovornih

proizvođača zatražiti naknadu za štetu uzrokovanu neispravnošću inteligentnih

strojeva;

Međunarodni aspekti

60. napominje da bi se, iako nije potrebna hitna izmjena aktualnih općih pravila

međunarodnog privatnog prava o prometnim nezgodama primjenjivih u Uniji radi

njihove prilagodbe razvoju autonomnih vozila, pojednostavljenjem trenutačnog dualnog

sustava za definiranje mjerodavnog prava (na temelju Uredbe (EZ) br. 864/2007

Europskog parlamenta i Vijeća1 i Haške konvencije od 4. svibnja 1971. o mjerodavnom

pravu za prometne nezgode) poboljšala pravna sigurnost i ograničile mogućnosti

traženja najpovoljnijeg pravnog sustava („forum shopping”);

61. napominje da je potrebno razmotriti izmjenjivanje međunarodnih sporazuma kao što su

Bečka konvencija od 8. studenog 1968. o cestovnom prometu i Haška konvencija o

mjerodavnom pravu za prometne nezgode;

62. očekuje od Komisije da zajamči da države članice na ujednačen način provode

međunarodno pravo, kao što je Bečka konvencija o cestovnom prometu koju je

potrebno izmijeniti, kako bi se omogućila vožnja bez vozača i poziva Komisiju, države

članice i industriju na što bržu provedbu ciljeva Deklaracije iz Amsterdama;

63. snažno potiče međunarodnu suradnju u pogledu rješavanja društvenih, etičkih i pravnih

izazova te uspostavljanje regulatornih standarda pod okriljem Ujedinjenih naroda;

64. ističe da bi i na robotiku trebalo primijeniti ograničenja i uvjete iz Uredbe (EZ)

1 Uredba (EZ) br. 864/2007 Europskog parlamenta i Vijeća od 11. srpnja 2007. o pravu koje se primjenjuje na

izvanugovorne obveze („Rim II”) (SL L 199, 31.7.2007., str. 40.).

RR\1115573HR.docx 19/65 PE582.443v03-00

HR

br. 428/2009 Europskog parlamenta i Vijeća1 o trgovini robom dvojne namjene –

dobrima, kompjuterskim programima i tehnologijom koja se može koristiti u civilne i u

vojne svrhe i/ili može pridonijeti širenju oružja za masovno uništavanje;

Završni aspekti

65. traži na temelju članka 225. UFEU-a od Komisije da na temelju članka 114. UFEU-a

podnese prijedlog direktive o građanskom pravu o robotici slijedeći detaljne preporuke

iz Priloga ovom dokumentu;

66. potvrđuje da se preporukama poštuju temeljna prava i načelo supsidijarnosti;

67. smatra da bi traženi prijedlog imao financijske posljedice ako se uspostavi nova

europska agencija;

68. nalaže svojem predsjedniku da ovu Rezoluciju i popratne detaljne preporuke proslijedi

Vijeću i Komisiji.

1 Uredba Vijeća (EZ) br. 428/2009 o uspostavljanju režima Zajednice za kontrolu izvoza, prijenosa, brokeringa i

provoza robe s dvojnom namjenom (SL L 341, 29.5.2009., str. 1.).

PE582.443v03-00 20/65 RR\1115573HR.docx

HR

PRILOG PRIJEDLOGU REZOLUCIJE: DETALJNE PREPORUKE O SADRŽAJU TRAŽENOG PRIJEDLOGA

Definicija i klasifikacija pametnih robota

Potrebno je utvrditi zajedničku europsku definiciju pametnih autonomnih robota, uključujući,

kada je to potrebno, prikladne definicije njihovih potkategorija te uzimajući u obzir sljedeće

značajke:

– Sposobnost autonomnog rada s pomoću senzora i/ili razmjene podataka s

okolinom (međusobna povezivost) i analize tih podataka

– Sposobnost učenja kroz iskustvo i interakciju

– Oblik fizičke potpore robota

– Sposobnost prilagodbe ponašanja i djelovanja u odnosu na okolinu

Registriranje pametnih robota

U cilju sljedivosti i olakšavanja provedbe daljnjih preporuka, potrebno je uvesti sustav

registriranja naprednih robota koji se temelji na kriterijima utvrđenima za klasifikaciju robota.

Sustav registracije i sam registar trebali bi se voditi na razini Unije i pokrivati unutarnje

tržište te bi njima mogla upravljati Agencija EU-a za robotiku i umjetnu inteligenciju u

slučaju da se takva agencija osnuje.

Građanskopravna odgovornost

Sva odabrana pravna rješenja koja se primjenjuju na odgovornost robota i umjetne

inteligencije u slučajevima koji nisu povezani s materijalnom štetom ne smiju ni na koji način

ograničavati vrstu ili opseg štete koju je moguće nadoknaditi, niti se takvim rješenjima ne

smiju ograničavati oblici naknade koji se mogu ponuditi oštećenoj strani isključivo na temelju

toga da je šteta prouzročena neljudskim čimbenikom.

Budući zakonodavni instrument trebao bi se temeljiti na detaljnoj procjeni Komisije o tome

treba li se primjenjivati pristup stroge odgovornosti ili pristup upravljanja rizicima.

Potrebno je uvesti plan obveznog osiguranja koji bi se mogao temeljiti na obvezi proizvođača

da osigura autonomne robote koje proizvodi.

Osiguranje bi se trebalo nadopuniti fondom kojim će se jamčiti nadoknada štete u slučaju da

osiguranje ne postoji.

Sve političke odluke o pravilima građanskopravne odgovornosti koja se primjenjuju na robote

i umjetnu inteligenciju trebaju se donositi uzimajući u obzir rezultate projekta na razini

Europe u području istraživanja i razvoja robotike i neuroznanosti kako bi znanstvenici i

stručnjaci mogli procijeniti sve povezane rizike i posljedice.

Interoperabilnost, pristup kodu i prava intelektualnog vlasništva

RR\1115573HR.docx 21/65 PE582.443v03-00

HR

Potrebno je zajamčiti interoperabilnost autonomnih robota povezanih mrežom koji

međusobno komuniciraju. Pristup izvornom kodu, ulazni podaci i podaci o projektiranju

trebaju biti dostupni po potrebi kako bi se istražile nesreće i šteta uzrokovane pametnim

robotima te zajamčio njihov trajni rad, dostupnost, pouzdanost, zaštita i sigurnost.

Povelja o robotici

Komisija bi pri predlaganju zakonodavnih akata povezanih s robotikom trebala uzeti u obzir

načela utvrđena u sljedećoj Povelji o robotici.

POVELJA O ROBOTICI

Predloženim kodeksom etičkog ponašanja u području robotike postavit će se temelji za

utvrđivanje temeljnih etičkih načela i nadzor njihova poštovanja te za usklađenost s njima već

u fazi projektiranja i razvoja.

Potrebno je izraditi promišljeni okvir, uzimajući u obzir rezultate projekta na razini Europe u

području istraživanja i razvoja robotike i neuroznanosti, kojim će se omogućiti pojedinačna

prilagodba od slučaja do slučaja kako bi se utvrdila ispravnost ili neispravnost određenog

ponašanja u određenoj situaciji te donošenje odluka u skladu s ranije utvrđenim nizom

vrijednosti.

Taj kodeks ne zamjenjuje potrebu za rješavanjem svih velikih pravnih problema u tom

području i on bi trebao služiti kao nadopuna. Njime će se omogućiti etička kategorizacija u

području robotike, osnažiti odgovorna inovativnost u tom području i odgovoriti na zabrinutost

javnosti.

Potrebno je posebno naglasiti faze istraživanja i razvoja u relevantom tehnološkom procesu

(postupak projektiranja, revizija etičkih načela, revizorske kontrole, itd.). Cilj je kodeksa

odgovoriti na potrebe za usklađenosti djelovanja istraživača, stručnjaka, korisnika i

projektanata s etičkim normama, kao i uvođenje postupka za rješavanje relevantnih etičkih

dvojbi i omogućavanje tim sustavima da djeluju uz poštovanje etičkih načela.

KODEKS ETIČKOG PONAŠANJA ZA INŽENJERE ROBOTIKE

PREAMBULA

Kodeksom ponašanja pozivaju se svi istraživači i projektanti na odgovorno djelovanje,

uzimajući u potpunosti u obzir potrebu za poštovanjem dostojanstva, privatnosti i sigurnosti

ljudi.

Kodeks poziva na blisku suradnju svih disciplina kako bi se zajamčilo da se istraživanja u

području robotike u Europskoj uniji provode na siguran, etički i učinkovit način.

Kodeksom ponašanja pokrivene su sve aktivnosti istraživanja i razvoja u području robotike.

Kodeks ponašanja djeluje na dobrovoljnoj osnovi i njime se nudi niz općih načela i smjernica

za djelovanje svih dionika.

PE582.443v03-00 22/65 RR\1115573HR.docx

HR

Tijela za financiranje istraživanja u području robotike, istraživačke organizacije, istraživači i

povjerenstva za istraživačku etiku pozivaju se da u najranijim fazama razmotre buduće

posljedice tehnologija ili predmeta o kojima se provodi istraživanje te da razviju kulturu

odgovornosti, uzimajući u obzir izazove i prilike do kojih bi moglo doći u budućnosti.

Javna i privatna tijela za financiranje istraživanja u području robotike trebala bi zatražiti

provedbu procjene rizika koja će se potom prezentirati zajedno sa svakim prijedlogom za

financiranje istraživanja u području robotike. U okviru takvog kodeksa odgovornim

subjektima moraju se smatrati ljudi, a ne roboti.

Istraživači u području robotike trebaju se obvezati na najviši stupanj etičkog i

profesionalnog ponašanja te poštovati sljedeća načela:

Djelovanje u najboljem interesu – roboti trebaju djelovati u najboljem interesu ljudi;

Nenanošenje štete – prvo načelo „nenanošenja zla” prema kojem roboti ne smiju naškoditi

ljudima;

Autonomija – sposobnost donošenja informirane odluke bez prisile o uvjetima interakcije s

robotima;

Pravednost – pravedna raspodjela koristi povezanih s robotikom, posebno u pogledu cjenovne

dostupnosti robota za skrb u domu i robota za zdravstvenu skrb.

Temeljna prava

Istraživačkim aktivnostima u području robotike trebaju se poštovati temeljna prava te ih je u

fazama njihova projektiranja, provođenja, širenja i korištenja potrebno provoditi u interesu

dobrobiti i samoodređenja pojedinaca i općeg društva. Potrebno je uvijek poštovati ljudsko

dostojanstvo, kako fizičko tako i psihološko.

Predostrožnost

Istraživačke aktivnosti u području robotike trebaju se provoditi u skladu s načelom

predostrožnosti, uz predviđanje mogućih sigurnosnih posljedica rezultata i poduzimanje

potrebnih mjera opreza koje su razmjerne razini zaštite te istovremeno poticanje napretka za

društvo i okoliš.

Uključivost

Inženjeri robotike jamče transparentnost i poštovanje legitimnog prava na pristup

informacijama za sve dionike. Uključivost omogućuje sudjelovanje u postupku odlučivanja

svih dionika koji su obuhvaćeni ili sudjeluju u istraživačkim aktivnostima u području

robotike.

Odgovornost

Inženjeri robotike trebaju i dalje biti odgovorni za društvene i ekološke posljedice robotike,

kao i za njezine posljedice za ljudsko zdravlje sadašnjih i budućih generacija.

Sigurnost

RR\1115573HR.docx 23/65 PE582.443v03-00

HR

Projektanti robota trebaju uzeti u obzir i poštovati fizičku dobrobit, sigurnost, zdravlje i prava

ljudi. Inženjeri robotike trebaju očuvati ljudsku dobrobit uz poštovanje ljudskih prava te

pravovremeno objaviti čimbenike koji bi mogli naškoditi javnosti ili okolišu.

Reverzibilnost

Reverzibilnost je, kao nužan preduvjet za mogućnost kontrole, temeljni koncept pri

programiranju sigurnog i pouzdanog ponašanja robota. Modelom reverzibilnosti robotu se

pružaju informacije o tome koja je radnja reverzibilna i kako primijeniti tu reverzibilnost.

Mogućnost brisanja posljednje radnje ili posljednjeg niza radnji omogućuje korisnicima da

izbrišu neželjene radnje i da se vrate na „dobru” fazu rada.

Privatnost

Potrebno je uvijek poštovati pravo na privatnost. Inženjeri robotike trebaju zajamčiti sigurnost

privatnih informacija i njihovo ispravno korištenje. Štoviše, inženjeri robotike trebaju

zajamčiti nemogućnost osobnog identificiranja pojedinaca, osim u slučaju izvanrednih

okolnosti, ali čak i tada uz jasan, nedvojben i informirani pristanak pojedinca. Informirani

pristanak osobe potrebno je zatražiti i dobiti prije bilo kakve interakcije između osobe i

robota. Projektanti robota su kao takvi odgovorni za razvijanje i poštovanje postupaka za

valjan pristanak, povjerljivost, anonimnost, pravedno postupanje i pravičan postupak.

Projektanti će izvršiti sve zahtjeve za uništavanje svih relevantnih podataka ili za njihovo

uklanjanje iz skupova podataka.

Maksimalna korist i minimalna šteta

Istraživači bi trebali stremiti ostvarivanju maksimalne koristi od njihova rada u svim fazama,

od osmišljavanja do objave rezultata. Potrebno je izbjegavati nanošenje štete sudionicima u

istraživanju, ljudskim subjektima ili sudionicima u eksperimentu, ispitivanju ili studiji. U

slučaju kada je opasnost neizbježan i sastavni dio istraživanja, potrebno je sastaviti i poštovati

stroge protokole za procjenu rizika i upravljanje njima. U normalnim okolnostima, opasnost

od štete ne bi trebala biti veća od one u svakodnevnom životu, tj. ljudi ne bi trebali biti

izloženi dodatnim opasnostima ili opasnostima većima od onih kojima su ionako izloženi u

njihovom uobičajenom načinu života. Djelovanje sustava robotike treba se uvijek temeljiti na

temeljitom postupku procjene rizika koji treba pratiti načela predostrožnosti i

proporcionalnosti.

KODEKS ZA POVJERENSTVA ZA ISTRAŽIVAČKU ETIKU

Načela

Neovisnost

Postupak preispitivanja etičnosti treba biti neovisan o samom istraživanju. Ovim se načelom

ističe potreba za izbjegavanjem sukoba interesa između istraživača i osoba koje se bave

preispitivanjem protokola o etičnosti, kao i između tih osoba i struktura organizacijskog

upravljanja.

Nadležnost

PE582.443v03-00 24/65 RR\1115573HR.docx

HR

Postupak preispitivanja etičnosti trebaju provoditi osobe prikladne stručnosti, pri čemu treba

pažljivo razmotriti opseg članstva i stručno osposobljavanje povjerenstava za istraživačku

etiku u području etike.

Transparentnost i odgovornost

Postupak preispitivanja treba biti odgovoran i podložan nadzoru. Povjerenstva za istraživačku

etiku trebaju biti svjesna svoje odgovornosti i imati odgovarajuće mjesto u organizacijskim

strukturama koje jamče transparentnost djelovanja povjerenstava za istraživačku etiku i

postupaka za očuvanje i preispitivanje normi.

Uloga povjerenstva za istraživačku etiku

Povjerenstvo za istraživačku etiku obično je odgovorno za preispitivanje svih istraživanja

koja uključuju ljudske sudionike, a koja provode pojedinci zaposleni u okviru relevantnih

institucija ili koje takve institucije zapošljavaju, jamči da je preispitivanje etičnosti neovisno,

kompetentno i pravovremeno, štiti dostojanstvo, prava i dobrobit sudionika u istraživanju,

uzima u obzir sigurnost istraživača, uzima u obzir legitimne interese drugih dionika, donosi

informirane odluke o znanstvenoj vrijednosti prijedloga i donosi informirane preporuke za

istraživača ako se utvrdi da je prijedlog manjkav.

Uspostava povjerenstva za istraživačku etiku

Povjerenstvo za istraživačku etiku obično je multidisciplinarno, uključuje i muškarce i žene te

se sastoji od članova sa širokim iskustvom i stručnosti u području istraživanja robotike.

Mehanizmom imenovanja treba se zajamčiti da sastav članova povjerenstva omogućuje

prikladnu ravnotežu između znanstvene stručnosti, filozofske, pravne ili etičke pozadine te

laičkih mišljenja te da se povjerenstvo sastoji od barem jednog člana sa specijalističkim

znanjem u području etike i od korisnika specijalističkih zdravstvenih, obrazovnih ili socijalnih

usluga ako su istraživačke aktivnosti na njih usmjerene te pojedinaca sa specifičnom

metodološkom stručnosti koje se odnosi na istraživanje koje preispituju te mora biti

uspostavljeno na način da se izbjegavaju sukobi interesa.

Praćenje

Sve istraživačke organizacije trebaju uspostaviti prikladne postupke za praćenje provođenja

istraživanja koje je dobilo odobrenje o etičnosti sve do njegova završetka te zajamčiti trajno

praćenje u slučajevima kada su u fazi projektiranja istraživanja predviđene moguće promjene

kroz vrijeme koje će se možda trebati rješavati. Praćenje treba biti proporcionalno prirodi i

stupnju rizika povezanog s istraživanjem. Ako povjerenstvo za istraživačku etiku smatra da

izvješće o praćenju ukazuje na znatne probleme u pogledu etičnosti studije, ono mora zatražiti

puno i detaljno preispitivanje etičnosti istraživanja. Ako se procijeni da se studija provodi na

neetičan način, potrebno je razmotriti povlačenje njezina odobrenja te obustavu ili ukidanje

njezina istraživanja.

DOZVOLA ZA PROJEKTANTE

– Trebate uzeti u obzir europske vrijednosti dostojanstva, autonomije, samoodređenja,

slobode i pravde prije, tijekom i nakon postupka projektiranja, razvoja i provedbe takvih

RR\1115573HR.docx 25/65 PE582.443v03-00

HR

tehnologija, uključujući potrebu za nenanošenjem štete ili ozljeda te nedovođenjem u zabludu

i neiskorištavanjem (osjetljivih) korisnika.

– Trebate uvesti pouzdana načela za projektiranje sustava za sve aspekte rada robota,

uključujući opremu i programe te svaku obradu podataka koja se na platformi ili izvan nje

vrši iz sigurnosnih razloga.

– Trebate značajkama u fazi projektiranja omogućiti privatnost kako bi se zajamčila

sigurnost privatnih informacija i njihova prikladna primjena.

– Trebate integrirati jasne mehanizme za dobrovoljni izlazak iz sustava (prekidači za

prestanak rada) koji bi trebali biti u skladu s razumnim ciljevima projektiranja.

– Trebate zajamčiti usklađenost rada robota s lokalnim, nacionalnim i međunarodnim

etičkim i pravnim načelima.

– Trebate zajamčiti da je korake robota pri donošenju odluka moguće rekonstruirati i

slijediti.

– Trebate zajamčiti maksimalnu transparentnost u programiranju robotskih sustava, kao

i predvidljivost ponašanja robota.

– Trebate analizirati predvidljivost funkcioniranja sustava čovjek-robot uzimajući u

obzir nesigurnost pri tumačenju i djelovanju, kao i moguće kvarove robota ili ljudske

pogreške.

– Trebate razviti alate za sljedivost u fazi projektiranja robota. Tim će se alatima

stručnjacima, operatorima i korisnicima omogućiti praćenje i razjašnjenje, pa makar i

ograničeno, ponašanja robota na različitim razinama.

– Trebate osmisliti protokole za projektiranje i procjenu te surađivati s potencijalnim

korisnicima i dionicima pri ocjenjivanju koristi i rizika robotike, uključujući kognitivne,

psihološke i ekološke koristi i rizike.

– Trebate osigurati da se pri interakciji s ljudima robote može identificirati kao takve.

– Trebate štititi sigurnost i zdravlje osoba koje su u interakciji i dodiru s robotima s

obzirom na to da se prilikom projektiranja robota kao proizvoda trebaju primijeniti procesi

kojima se jamči njihova zaštita i sigurnost. Inženjer robotike mora štititi dobrobit ljudi uz

istovremeno poštovanje ljudskih prava te ne smije pokrenuti robote bez jamčenja sigurnosti,

učinkovitosti i reverzibilnosti djelovanja sustava.

– Trebate dobiti pozitivno mišljenje povjerenstva za istraživačku etiku prije testiranja

robota u stvarnom okruženju ili uključivanja ljudi u njegove postupke projektiranja i razvoja.

DOZVOLA ZA KORISNIKE

– Smijete se koristiti robotom bez opasnosti ili straha od fizičke ili psihološke štete.

– Imate pravo očekivati od robota da će provesti svaki zadatak za koji je izričito

PE582.443v03-00 26/65 RR\1115573HR.docx

HR

projektiran.

– Trebate biti svjesni da svaki robot može imati perceptivna, kognitivna i aktivacijska

ograničenja.

– Trebate poštovati fizičku i psihološku osjetljivost ljudi, kao i njihove emocionalne

potrebe.

– Trebate uzeti u obzir prava pojedinaca na privatnost, uključujući deaktiviranje video

nadzora tijekom intimnih postupaka.

– Ne smijete prikupljati, koristiti ili objavljivati osobne informacije bez izričitog

pristanka subjekta o čijim je podacima riječ.

– Ne smijete se koristiti robotom ni na koji način koji je suprotan etičkim ili pravnim

načelima ili normama.

– Ne smijete modificirati robot kako bi on mogao funkcionirati kao oružje.

RR\1115573HR.docx 27/65 PE582.443v03-00

HR

OBRAZLOŽENJE

Kontekst

U skladu s Prilogom VI. Poslovnika, Odbor za pravna pitanja odgovoran je, među ostalim, za

područje građanskog i trgovačkog prava, prava trgovačkih društava, prava intelektualnog

vlasništva te za tumačenje i primjenu međunarodnog prava, u mjeri u kojoj se odnose na

Europsku uniju, te etička pitanja povezana s novim tehnologijama. Razvoj robotike i umjetne

inteligencije postavlja pravna i etička pitanja koja su jasno povezana sa svim tim područjima i

koja zahtijevaju hitno djelovanje na razini EU-a. Iako je zadaća Komisije da u konačnici

iznese jedan ili više zakonodavnih prijedloga povezanih s robotikom i umjetnom

inteligencijom, Europski parlament odlučio je otvoriti put takvim inicijativama koristeći se

svojim pravima u skladu s člankom 225. Ugovora o funkcioniranju Europske unije i

člankom 46. Poslovnika.

Kao rezultat toga, Odbor JURI odlučio je 20. siječnja 2015. osnovati radnu skupinu za pravna

pitanja povezana s razvojem robotike i umjetne inteligencije u Europskoj uniji. Glavni je cilj

radne skupine izrada nacrta građanskopravnih pravila povezanih s tim područjem.

Osim članova Odbora za pravna pitanja, radna skupina uključuje i članove koji predstavljaju

Odbor za industriju, istraživanje i energetiku (ITRE), Odbor za unutarnje tržište i zaštitu

potrošača (IMCO) i Odbor za zapošljavanje i socijalna pitanja (EMPL).

Radna skupina savjetovala se sa stručnjacima iz vrlo različitih područja i dobila njihov vrlo

važan doprinos koji je uvršten u ovu rezoluciju.

Općenito

Robotika i umjetna inteligencija sada su među najistaknutijim tehnoloških trendovima našeg

stoljeća. Brzi rast njihova korištenja i razvoja našem društvu donosi nove i teške izazove.

Prijelaz robota i umjetne inteligencije iz industrijskog sektora u okruženje civilnog društva

zahtijeva drugačiji pristup tim tehnologijama jer bi se takvim prijelazom povećala njihova

interakcija s ljudima u vrlo raznovrsnim područjima.

Odbor JURI smatra da je potrebno hitno rješavati rizike povezane s tim novim interakcijama i

pobrinuti se da se određeni niz temeljnih vrijednosti prenosi u svaku fazu kontakta između

robota, umjetne inteligencije i ljudi. Pritom je potrebno posebno naglasiti ljudsku sigurnost,

privatnost, integritet, dostojanstvo i autonomiju.

Drugi važni aspekti o kojima je riječ u ovoj rezoluciji su: normizacija, prava intelektualnog

vlasništva, vlasništvo podataka, zapošljavanje i pravna odgovornost. Ključno je da se

zakonskom regulativom pruže predvidljivi i dovoljno jasni uvjeti za poticanje europske

inovacije u području robotike i umjetne inteligencije.

Pravna osnova i supsidijarnost

PE582.443v03-00 28/65 RR\1115573HR.docx

HR

Djelovanje Komisije u pogledu prilagodbe postojećeg zakonodavstva realnosti područja

robota i umjetne inteligencije treba se temeljiti na članku 114. UFEU-a. Kao što je navedeno

u članku 5. stavku 3. UEU-a, Unija sukladno načelu supsidijarnosti djeluje jedino ako i u

mjeri u kojoj ciljeve predloženog djelovanja države članice ne mogu dostatno ostvariti, kako

na središnjoj razini tako i na regionalnoj i lokalnoj, nego se zbog opsega ili učinaka

predloženog djelovanja mogu na bolji način ostvariti na razini Europske unije. Do razvoja

robotike trenutačno dolazi na razini cijele Unije. Države članice reagiraju na te inovacije

izradom nacionalnih zakonodavstava koji se međusobno razlikuju. Možemo očekivati da će te

razlike stvoriti prepreke za učinkoviti razvoj robotike. Zbog činjenice da ta tehnologija ima

prekogranične posljedice, najbolja je opcija zakonodavstvo na razini Unije.

Opća i etička načela

Rezolucijom su utvrđena opća i etička načela povezana s razvojem robotike i umjetne

inteligencije za civilnu upotrebu. Kao prvo, važno je utvrditi zajedničku definiciju pametnih

autonomnih robota kako bi se prikladno reagiralo na takav razvoj. Nadalje, potrebno je ojačati

istraživanja u području robotike i informacijsko-komunikacijskih tehnologija, kao i

istraživanja o posljedicama njihova širenja.

Kao drugo, ovoj je rezoluciji priložena Povelja o robotici u cilju rješavanja etičkih načela. Ta

se Povelja sastoji od kodeksa ponašanja za inženjere robotike, kodeksa za povjerenstva za

istraživačku etiku te dozvola za projektante i korisnike. Predloženi okvir u potpunosti je

usklađen s Poveljom EU-a o temeljnim pravima.

Nadalje, predlaže se osnivanje Agencije EU-a za robotiku i umjetnu inteligenciju. Ta bi

agencija trebala pružati potrebna tehnička, etička i regulatorna stručna znanja za potporu

relevantnim javnim akterima.

Prava intelektualnog vlasništva, zaštita podataka i vlasništvo podataka

Rezolucijom se Komisija poziva da predloži uravnotežen pristup u pogledu prava

intelektualnog vlasništva kad se ona primjenjuju na norme i kodekse za opremu i programe

kojima se štiti i istovremeno potiču inovacije. Nadalje, potrebno je utvrditi kriterije za

„vlastito intelektualno stvaralaštvo” za radove na koje se mogu primijeniti autorska prava, a

koje proizvode računala ili roboti.

Nedostatnost aktualnog pravnog okvira za zaštitu i vlasništvo podataka razlog je za veliku

zabrinutost zbog (očekivanog masivnog) protoka podataka uslijed primjene robotike i umjetne

inteligencije.

Normizacija, sigurnost i zaštita

Porast u korištenju robotima i umjetnom inteligencijom zahtijeva normizaciju na razini EU-a

kako bi se izbjegle razlike između država članica i fragmentacija unutarnjeg tržišta Europske

unije.

Nadalje, potrebno je odgovoriti na zabrinutost potrošača u pogledu sigurnosti i zaštite

povezanih s korištenjem robota i umjetne inteligencije. Ovom se rezolucijom posebno ističe

da je testiranje robota u stvarnim uvjetima ključno za utvrđivanje i procjenu rizika do kojih bi

moglo doći.

RR\1115573HR.docx 29/65 PE582.443v03-00

HR

Pravila za specifično korištenje robotima i umjetnom inteligencijom

Rezolucija obuhvaća i odredbe koje se primjenjuju na specifične vrste robota. Potrebno je

usvojiti pojedinačna pravila za autonomna vozila, robote za skrb, medicinske robote, za

popravljanje organa i poboljšavanje ljudskog tijela te bespilotne letjelice (zrakoplovni sustavi

na daljinsko upravljanje , RPAS).

Pravila o odgovornosti

Rizici do kojih može doći po svojoj su prirodi povezani s uporabom autonomnih strojeva u

našem društvu. Ponašanje robota ima potencijalne građanskopravne posljedice u pogledu

ugovorne i neugovorne odgovornosti. Stoga je nužno razjasniti odgovornost za djelovanje

robota, kao i eventualno pravnu sposobnost i/ili status robota i umjetne inteligencije, kako bi

se osigurala transparentnost i pravna sigurnost za proizvođače i potrošače diljem Europske

unije.

Komisija se poziva na provođenje procjene učinka svojih budućih zakonodavnih mjera kako

bi se razmotrile posljedice svih mogućih pravnih rješenja, kao što je, primjerice, uspostava

plana obaveznog osiguranja i fonda za naknadu štete.

Robotika i umjetna inteligencija u društvenom kontekstu

Sve veća komunikacija i interakcija s robotima može duboko utjecati na fizičke i moralne

odnose u okviru našeg društva. To se posebno odnosi na robote za skrb prema kojima

posebno osjetljive osobe mogu razviti emocije i privrženost, što je zabrinjavajuće u pogledu

ljudskog dostojanstva i drugih moralnih vrijednosti.

Roboti i umjetna inteligencija već utječu na obrazovanje i zapošljavanje. U tom je pogledu

potrebno pomno pratiti trendove u zapošljavanju kako bi se izbjegle nepoželjne posljedice za

tržište rada.

Međunarodni aspekti

S obzirom na globalni razvoj robotike i umjetne inteligencije, potrebno je razmotriti i

poduzeti inicijative za izmjenu postojećih relevantnih međunarodnih sporazuma, ako je to

potrebno, ili za izradu nacrta novih instrumenata kako bi se u njih uvrstila konkretna

upućivanja na robotiku i umjetnu inteligenciju. Vrlo je poželjna međunarodna suradnja u tom

području.

PE582.443v03-00 30/65 RR\1115573HR.docx

HR

RR\1115573HR.docx 31/65 PE582.443v03-00

HR

16.11.2016

MIŠLJENJE ODBORA ZA PROMET I TURIZAM

upućeno Odboru za pravna pitanja

s preporukama Komisiji o pravilima građanskog prava o robotici

(2015/2103(INL))

Izvjestitelj za mišljenje: Georg Mayer

(Inicijativa – članak 46. Poslovnika)

PRIJEDLOZI

Odbor za promet i turizam poziva Odbor za pravna pitanja da kao nadležni odbor u prijedlog

rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

– uzimajući u obzir Deklaraciju iz Amsterdama o suradnji u području umrežene i

automatizirane vožnje, donesenu na sjednici Vijeća održanoj 14. i 15. travnja 2016.

(„Deklaracija iz Amsterdama”),

A. budući da je Komisija nedavno osnovala skupinu na visokoj razini GEAR 2030., kojoj

je cilj osmisliti plan za propisno stavljanje u upotrebu autonomnih vozila;

B. budući da je radi građanskopravne odgovornosti potrebno razlikovati automatizirana

vozila (koja sadrže uređaje za automatsko izvršenje pojedinih radnji u vožnji) od

autonomnih vozila (koja izvršavaju sve takve radnje); budući da u prvom slučaju vozač

i dalje mora stalno nadzirati vožnju te je i dalje u potpunosti odgovoran za nju, a u

drugom slučaju vožnja više ne zahtijeva stalan nadzor ni intervencije korisnika; budući

da program građanskopravne odgovornosti u prvom slučaju ostaje nepromijenjen u

odnosu na konvencionalna vozila, dok ga je u drugom slučaju potrebno prilagoditi;

1. ističe da autonomni prijevoz obuhvaća sve vrste daljinski upravljanog, automatiziranog,

umreženog i autonomnog cestovnog, željezničkog, vodenog i zračnog prijevoza,

uključujući vozila, vlakove, plovila, trajekte, zrakoplove, bespilotne letjelice, kao i sve

buduće oblike razvoja i inovacija u tom sektoru (u daljnjem tekstu: „autonomna

prijevozna sredstva”);

2. poziva Komisiju da u svom radu povezanom s autonomnim prijevoznim sredstvima u

PE582.443v03-00 32/65 RR\1115573HR.docx

HR

obzir uzme sljedeće aspekte: građanskopravnu odgovornost (odgovornost i osiguranje),

sva pitanja povezana s okolišem (npr. energetska učinkovitost, korištenje obnovljivih

tehnologija i izvora energije) i pitanja povezana s podacima (pristup podacima, zaštita

osobnih podataka i privatnosti, dijeljenje podataka o nesrećama i rizičnim situacijama,

financijska vrijednost podataka i njihove distribucije);

3. uzima u obzir činjenicu da bi autonomna prijevozna sredstva mogla imati iznimno

važan učinak na poboljšanje sigurnosti u prometu jer je 90 % prometnih nesreća

izazvano ljudskom pogreškom; unatoč tome, napominje da se korištenjem autonomnih

vozila neće moći spriječiti sve prometne nesreće; stoga se javlja pitanje odgovornosti

uključenih strana i naknade žrtvama u slučaju nesreće;

4. podsjeća da autonomni prometni sustavi već dugo postoje u sektoru javnog prijevoza

(sustavi podzemne željeznice) te su dokazali svoju pouzdanost i visok stupanj

prihvaćenosti u javnosti;

5. zauzima stajalište da prelazak na autonomna vozila, osim pozitivnog utjecaja na

sigurnost na cesti, potrošnju goriva, okoliš i stvaranje novih mogućnosti zapošljavanja u

telekomunikacijskom i automobilskom sektoru, može također dovesti do gubitka radnih

mjesta u prometnom sektoru te imati posljedice u sektoru osiguranja;

6. skreće pozornost na činjenicu da je vrijeme reakcije vozača u slučaju neplaniranog

preuzimanja nadzora nad vozilom iznimno važno te stoga poziva odgovarajuće dionike

da utvrde realne vrijednosti koje su odlučujuće za pitanja sigurnosti i odgovornosti;

7. naglašava posebnu važnost nacrta izvješća o prometnom sektoru koji je izradio Odbor

za pravna pitanja, s obzirom na tehnološki napredak i činjenicu da su poluautonomna

prijevozna sredstva već dostupna na tržištu, a uskoro će biti dostupna i ona potpuno

autonomna;

8. naglašava važnost podupiranja daljnjih inovacija u robotici, kao što su umrežena i

automatizirana vozila i bespilotne letjelice, kako bi se ojačao položaj industrije Unije na

globalnom tržištu;

9. napominje da autonomna prijevozna sredstva imaju važnu ulogu u razvoju održivog

prometa; napominje da bi autonomna prijevozna sredstva mogla doprinijeti smanjenju

prometnih gužvi te poziva Komisiju i države članice da u potpunosti i pravovremeno

uzimaju u obzir tehnički napredak, kao i učinke na okoliš i sigurnost te promicanje

inovacija;

10. očekuje od Komisije da se pobrine za to da države članice na ujednačen način prilagode

postojeće zakonodavstvo, kao što je Bečka konvencija o cestovnom prometu od

8. studenoga 1968., kako bi se omogućila vožnja bez vozača i poziva Komisiju, države

članice i industriju na što bržu provedbu ciljeva Deklaracije iz Amsterdama;

11. potiče Komisiju da podnese procjene u pogledu sigurnosnih pitanja povezanih s

raširenom upotrebom bespilotnih letjelica; poziva Komisiju da provede studije o

utjecaju autonomnih prijevoznih sredstava na povećanje prometne sigurnosti i

održivosti;

RR\1115573HR.docx 33/65 PE582.443v03-00

HR

12. ističe da će optimizacijom ruta, suzbijanjem prometnih gužvi, optimizacijom uporabe

pogonskog sustava te komunikacijom sa sustavima za kontrolu protoka, autonomna

vozila doprinijeti poboljšanju ekoloških čimbenika, posebice u gradskim čvorištima;

13. naglašava da će interakcija između autonomnih prijevoznih sredstava, upravljanja

prometom, infrastrukture i upravljanja njome zahtijevati veliku koncentraciju učinkovite

i pouzdane komunikacije kako bi se na siguran način prenijele velike količine podataka

u stvarnom vremenu; naglašava da će biti potrebna znatna ulaganja u cestovnu i

energetsku infrastrukturu, infrastrukturu povezanu s informacijskim i komunikacijskim

tehnologijama, uz jamčenje zaštite podataka i privatnosti;

14. naglašava važnost pametne i međupovezane prometne infrastrukture te stoga poziva

Komisiju i države članice da uspostave odgovarajuću sveobuhvatnu, prekograničnu i

interoperabilnu infrastrukturu;

15. poziva Komisiju da razvije sustav građanskopravne odgovornosti, uključujući i teret

dokaza, prilagođen razvoju autonomnih vozila; naglašava važnost osiguranja jasne

podjele odgovornosti između dizajnera, proizvođača raznih dijelova i montera

autonomnih vozila, pružatelja usluga (usluge prijevoza ili usluge potrebne za rad

autonomnih vozila) i krajnjih korisnika kako bi se zajamčili sigurnost i prava putnika,

zaštita podataka i zaštita od hakiranja;

16. naglašava da su pouzdane informacije o položaju i vremenu koje pružaju europski

satelitski navigacijski programi Galileo i EGNOS od ključne važnosti za uvođenje

autonomnih vozila, osobito za navigacijske i sigurnosne sustave u autonomnim

vozilima, s jedne strane, te za pametne prometne sustave i sustave upravljanja

prometom, s druge strane;

17. skreće pozornost na veliku dodanu vrijednost autonomnih vozila za osobe sa

smanjenom pokretljivošću, s obzirom na to da im takva vozila omogućuju učinkovitije

sudjelovanje u individualnom cestovnom prometu, čime se olakšava i njihov

svakodnevni život;

18. poziva Komisiju da do 2019. predloži zajedničku europsku strategiju (uključujući i

jedinstven plan) za autonomna prijevozna sredstva te za bližu suradnju svih relevantnih

dionika, uključujući pomnu analizu i preporuke u pogledu dinamike i razvoja tržišta;

poziva Komisiju da revidira i po potrebi prilagodi regulatorni okvir Unije u cilju

podupiranja razvoja i upotrebe autonomnih prijevoznih sredstava; potiče da se što prije

dovrše i lansiraju sateliti potrebni za dovršetak europskog sustava pozicioniranja

Galileo kako bi se takav sustav mogao upotrebljavati kao zadani sustav pozicioniranja u

autonomnim prijevoznim sredstvima;

19. napominje da su za razvoj autonomnih vozila potrebni proaktivan i predan institucijski

pristup Unije i država članica te sudjelovanje tehnoloških centara i automobilske

industrije;

20. poziva Komisiju da razvije europske infrastrukturne standarde kako bi se omogućilo

širenje autonomnih vozila i plan za njihovo uvođenje;

21. poziva Komisiju i države članice da rukovanje automatiziranim vozilima uključe u

PE582.443v03-00 34/65 RR\1115573HR.docx

HR

početne i napredne programe obuke vozača teretnih vozila i da postane dio obuke za

stjecanje vozačke dozvole za upravljanje osobnim automobilima;

22. podsjeća da bi homogenost i sigurnost zrakoplova bez posade trebalo zajamčiti mjerama

utvrđenima u Uredbi (EZ) br. 216/2008 Europskog parlamenta i Vijeća1;

1 Uredba (EZ) br. 216/2008 Europskog parlamenta i Vijeća od 20. veljače 2008. o zajedničkim pravilima u

području civilnog zrakoplovstva i osnivanju Europske agencije za sigurnost zračnog prometa i stavljanju izvan

snage Direktive Vijeća 91/670/EEZ, Uredbe (EZ) br. 1592/2002 i Direktive 2004/36/EZ (SL L 79, 19.3.2008.,

str. 1.).

RR\1115573HR.docx 35/65 PE582.443v03-00

HR

REZULTAT KONAČNOG GLASOVANJA U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja 10.11.2016

Rezultat konačnog glasovanja +:

–:

0:

22

5

0

Zastupnici nazočni na konačnom

glasovanju Daniela Aiuto, Marie-Christine Arnautu, Georges Bach, Izaskun Bilbao

Barandica, Deirdre Clune, Michael Cramer, Luis de Grandes Pascual,

Andor Deli, Karima Delli, Jacqueline Foster, Bruno Gollnisch, Merja

Kyllönen, Peter Lundgren, Marian-Jean Marinescu, Cláudia Monteiro

de Aguiar, Renaud Muselier, Markus Pieper, Salvatore Domenico

Pogliese, Massimiliano Salini, Claudia Schmidt, Jill Seymour, Pavel

Telička, Wim van de Camp, Roberts Zīle, Elżbieta Katarzyna

Łukacijewska

Zamjenici nazočni na konačnom

glasovanju Ramona Nicole Mănescu, Matthijs van Miltenburg

PE582.443v03-00 36/65 RR\1115573HR.docx

HR

23.11.2016

MIŠLJENJE ODBORA ZA GRAĐANSKE SLOBODE, PRAVOSUĐE I UNUTARNJE POSLOVE

upućeno Odboru za pravna pitanja

s preporukama Komisiji o pravilima građanskog prava o robotici

(2015/2103(INL))

Izvjestitelj za mišljenje: Michał Boni

(Inicijativa – članak 46. Poslovnika)

(*) Pridruženi odbor – članak 54. Poslovnika

PRIJEDLOZI

Odbor za građanske slobode, pravosuđe i unutarnje poslove poziva Odbor za pravna pitanja

da kao nadležni odbor:

– u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

A. budući da će tehnološki napredak u području robotike imati pozitivne učinke na

gospodarstvo Unije, kao i na svakodnevni život pojedinaca, ali bi također mogao

podrazumijevati rizike koje je potrebno uzeti u obzir; budući da je pri razvoju svih novih

tehnoloških i proizvodnih paradigmi, u okviru programa Obzor 2020. ili izvan njega, potrebno

poštovati etička načela i posvetiti dužnu pažnju temeljnim pravima ugrađenima u Povelju o

temeljnim pravima;

B. budući da su brojne treće zemlje usvojile odgovarajuće smjernice i zakonodavstvo u

području robotike i da su neke države članice započele s konkretnim razmatranjima u tom

području; budući da bi se regulatornim okvirom kojim se na razini Unije uređuje razvoj i

korištenje robotike i umjetne inteligencije, te koji se nadovezuje na postojeće propise kao što

RR\1115573HR.docx 37/65 PE582.443v03-00

HR

je Opća uredba o zaštiti podataka1 EU-a mogla spriječiti fragmentacija propisa na

jedinstvenom tržištu i dodatno osigurati zaštita temeljnih prava svih građana EU-a na ljudsko

dostojanstvo, privatnost i obiteljski život, zaštitu osobnih podataka i intelektualnog vlasništva,

slobodu izražavanja i informiranja, ravnopravnost i nediskriminaciju, solidarnost te prava

građana i pravda, kao i sigurnost, uz primjenu načela proporcionalnosti;

Etička načela

1. smatra da bi postojeći pravni okvir Unije trebalo ažurirati i dopuniti, po potrebi,

vodećim etičkim načelima za dizajn, izradu, testiranje i korištenje robota i umjetne

inteligencije kako bi se osiguralo da takve tehnologije mogu zaista poboljšati kvalitetu

ljudskog života; poziva na to da se pri razvoju i korištenju takvih tehnologija uvijek vodi

računa o načelu predostrožnosti;

2. smatra da robotski sustavi i sustavi umjetne inteligencije, posebno oni s integriranom

autonomijom, uključujući mogućnost samostalnog izdvajanja, prikupljanja i dijeljenja

osjetljivih informacija s raznim dionicima te mogućnost samostalnog učenja ili čak evolucije

do razine na kojoj je moguća modifikacija vlastita sustava, trebaju biti podložni strogim

zakonima ili načelima, poput načela da robot ne smije ubiti čovjeka niti mu nauditi te da mora

slušati naredbe čovjeka i biti pod njegovom kontrolom; vjeruje da postupak s pomoću kojeg

roboti i sustavi umjetne inteligencije prikupljaju, koriste i obrađuju osobne podatke mora biti

transparentan i razumljiv; vjeruje da bi ta načela trebala biti tehnološki neutralna i utemeljena

na empirijskom istraživanju; podržava razvoj zadanog etičkog okvira za istraživače,

akademske krugove i inženjere kojim bi se osiguralo da ta tehnološka rješenja neće ometati

istraživanja i tehnološki razvoj, već da će biti u skladu s postojećim europskim i nacionalnim

praksama i kodeksima, kao i s pravima i načelima ugrađenima u Povelju o temeljnim

pravima, posebno s ljudskim dostojanstvom, poštovanjem privatnog i obiteljskog života i

njihovom zaštitom, sigurnošću, zaštitom osobnih podataka, zaštitom intelektualnog

vlasništva, slobodom izražavanja i informiranja, ravnopravnošću i nediskriminacijom,

solidarnošću te pravima građana i pravdom, uz poštovanje načela proporcionalnosti;

3. potvrđuje da je za definiranje takvih zakona i načela te za njihovu praktičnu primjenu

potrebno više istraživanja u području etike umjetne inteligencije; smatra da bi Europska

skupina za etiku u znanosti i novim tehnologijama s vremenom mogla imati ulogu u

utvrđivanju etičkih smjernica i standarda koji će biti usmjereni na budućnost i prilagođeni

tehnološkim promjenama u budućnosti;

4. ističe da je potrebno pozabaviti se psihološkim i društvenim utjecajem interakcije

između ljudi i robota, kao i dvostrukom naravi utjecaja tehnologije na ljudske sposobnosti, uz

pridavanje posebne pozornosti ranjivim skupinama, a posebno djeci, kako bi se izbjeglo

razvijanje štetne ovisnosti o robotima, primjerice izazivanjem emotivne reakcije, ili izolacija

tih ljudi od stvarnosti;

1 Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s

obradom osobnih podataka i slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ

(Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).

PE582.443v03-00 38/65 RR\1115573HR.docx

HR

5. naglašava da će robotika i umjetna inteligencija, a posebno robotski sustavi u

zdravstvu, njezi i domaćinstvu te medicinski kiberfizički sustavi, čiji pojedini dijelovi mogu

biti ugrađeni u ljudsko tijelo ili se mogu nositi na tijelu, znatno utjecati na ljudski život,

posebno kad je riječ o osobama s invaliditetom; stoga napominje da je ključno osigurati

uključiv i ravnopravan pristup tim tehnologijama; nadalje ističe utjecaj koji takva robotika

može imati na privatnost korisnika zbog pristupa tradicionalno zaštićenim prostorima i

osjetljivim osobnim informacijama; vjeruje da bi trebalo zajamčiti poštovanje načela

medicinske etike, sigurnost pacijenata i integritet pružene skrbi;

Privatnost i zaštita podataka

6. ponavlja da se pravo na zaštitu privatnog života i pravo na zaštitu osobnih podataka,

sukladno člancima 7. i 8. Povelje o temeljnim pravima i članku 16. UFEU-a, primjenjuju na

sva područja robotike i umjetne inteligencije te da se mora u potpunosti poštovati pravni okvir

Unije za zaštitu podataka; ističe odgovornost dizajnera sustava robotike i umjetne

inteligencije da razvijaju proizvode na način da budu sigurni i prilagođeni svrsi te da slijede

postupke za obradu podataka u skladu s postojećim zakonodavstvom, povjerljivošću,

anonimnošću, pravednim postupanjem i pravičnim postupkom;

7. poziva Komisiju da se pobrine za to da se u sve zakonodavne dokumente Unije u

području robotike i umjetne inteligencije uključe mjere i propisi kojima se u obzir uzima brz

tehnološki razvoj u tom polju, uključujući razvoj kiberfizičkih sustava, kako bi se zajamčilo

da zakonodavstvo Unije ne zaostaje za krivuljom tehnološkog razvoja i stavljanja tehnologije

u upotrebu; naglašava da takvo zakonodavstvo mora biti usklađeno s propisima o privatnosti i

zaštiti podataka, odnosno s propisima povezanim s obvezama informiranja, pravom na

obrazloženje odluke utemeljene na automatskoj obradi podataka, zahtjevom za poštovanjem

načela integrirane i zadane privatnosti, načelima proporcionalnosti, nužnosti, smanjenja

količine podataka i ograničavanja svrhe, kao i s transparentnim kontrolnim mehanizmima za

osobe čiji se podaci obrađuju i tijela za zaštitu podataka te s odgovarajućim pravnim

lijekovima u skladu s postojećim zakonodavstvom; poziva na preispitivanje propisa, načela i

kriterija u vezi s upotrebom kamera i senzora u robotima i sustavima umjetne inteligencije, u

skladu s pravnim okvirom Unije za zaštitu podataka;

8. poziva na ujednačen horizontalni pristup robotici i umjetnoj inteligenciji u regulatornom

okviru Unije koji će biti tehnološki neutralan i koji će se primjenjivati na razne sektore u

kojima bi se mogla koristiti robotika, kao što su promet, zdravstvo, industrijska proizvodnja,

telekomunikacije, izvršavanje zakonodavstva i mnoga druga područja; naglašava da bi, gdje

je to primjereno, postojeći pravni okvir trebalo ažurirati i dopuniti kako bi se zajamčila

jednaka razina zaštite podataka, privatnosti i sigurnosti;

9. ističe da je važno spriječiti provođenje masovnog nadzora s pomoću

tehnologije povezane s robotikom i umjetnom inteligencijom;

10. poziva Komisiju i države članice da promiču snažnu i transparentnu suradnju među

javnim i privatnim sektorom te akademskim krugovima, čime bi se pojačala razmjena znanja,

i da promiču obrazovanje i osposobljavanje dizajnera u pogledu etičkih posljedica, sigurnosti

i poštovanja temeljnih prava te obrazovanje i osposobljavanje potrošača u pogledu korištenja

robotike i umjetne inteligencije, s posebnim naglaskom na sigurnosti i privatnosti podataka;

RR\1115573HR.docx 39/65 PE582.443v03-00

HR

Sigurnost podataka i sustava podataka te protok podataka

11. naglašava da je slobodan protok podataka iznimno važan za digitalno gospodarstvo te

je nužan za razvoj robotike i umjetne inteligencije; ističe da je visoka razina sigurnosti

robotskih sustava i sustava umjetne inteligencije u cjelini, uključujući njihove interne sustave

podataka i protok podataka, ključna za primjerenu upotrebu robota i umjetne inteligencije;

naglašava da je potrebno zajamčiti zaštitu mreža međupovezanih robota i umjetne

inteligencije kako bi se spriječile moguće povrede sigurnosti, kibernapadi ili zloupotreba

osobnih podataka, posebice kad se prikuplja i obrađuje velika količina podataka; naglašava da

je potrebno osmisliti mehanizam kojim se korisniku omogućuje da zaustavi obradu svojih

osobnih podataka u slučaju povrede sigurnosti; ističe važnost aktivnosti istraživanja i razvoja

u području tehnika zaštite podataka te naglašava zajedničku odgovornost javnosti i poduzeća

da surađuju u cilju jamčenja visoke razine sigurnosti i privatnosti podataka koji se koriste u

komunikaciji između ljudi i robota, odnosno umjetne inteligencije, zajedno s visokom

kvalitetom sustava za prepoznavanje govora i znakovnog jezika; smatra da bi proizvođači

komercijalnog hardvera i softvera trebali biti odgovorni u slučaju ozbiljnih povreda sigurnosti

podataka uzrokovane njihovim nemarom; poziva Komisiju i države članice da osiguraju

podršku i poticaje za razvoj potrebne tehnologije, uključujući integriranu sigurnost i

komunikacijske kanale;

Bespilotne letjelice (zrakoplovni sustavi na daljinsko upravljanje (RPAS))

12. ističe da se, bez obzira na to obrađuju li podatke javna tijela u svrhu kaznenog progona

ili pak privatni ili javni subjekti u druge zakonom dopuštene svrhe, pri obradi osobnih

podataka u okviru RPAS-a primjenjuje pravo na zaštitu i sigurnost te pravo na poštovanje

privatnog života, kako je utvrđeno u člancima 6. i 7. Povelje o temeljnim pravima, pravo na

zaštitu osobnih podataka navedeno u članku 8. Povelje o temeljnim pravima i članku 16.

UFEU-a, te da se mora u potpunosti poštovati pravni okvir Unije za zaštitu podataka; poziva

Komisiju da razmotri potrebu za uvođenjem obveznog sustava praćenja i identifikacije za

zrakoplovne sustave na daljinsko upravljanje, kojim se omogućuje utvrđivanje položaja

letjelica u stvarnom vremenu tijekom njihove upotrebe.

13. ponovno poziva Vijeće da razvije strog i učinkovit okvir Unije o korištenju naoružanih

bespilotnih letjelica, da prida najveću moguću važnost poštovanju etičkih načela, ljudskih

prava i međunarodnog humanitarnog prava i da prione na rješavanje pitanja poput pravnog

okvira, proporcionalnosti, odgovornosti, transparentnosti i zaštite civila, uključujući i

poduzimanje svih mogućih mjera predostrožnosti kako bi se izbjegli pogrešno ciljanje i

usputne civilne žrtve, te da zajamči da krajnju kontrolu i odgovornost ima čovjek; ponovno

zahtijeva zabranu proizvodnje, razvoja i uporabe potpuno autonomnog oružja kojim se

omogućava provođenje napada bez ljudske intervencije; potiče Komisiju i države članice da

pokrenu opsežan međunarodni politički dijalog u cilju uspostave globalnih pravnih standarda

o razvoju, širenju i upotrebi sve autonomnijih sustava oružja te o pravnim i etičkim

ograničenjima takvih sustava, primjerice u obliku obvezujućeg međunarodnog sporazuma;

14. priznaje pozitivan napredak u području tehnologije bespilotnih letjelica,

posebno u području traganja i spašavanja, te i tvrdi da bi Unija trebala nastaviti u tom

smjeru kad je riječ o razvoju tehnologije bespilotnih letjelica;

PE582.443v03-00 40/65 RR\1115573HR.docx

HR

Kodeks ponašanja

15. smatra da bi u određenim područjima za koja relevantne studije pokazuju da bi izrada

zakonodavstva bila preuranjena odgovarajuće zakonodavstvo trebalo popratiti poticanjem

okvira neobvezujućeg prava, kodeksa ponašanja ili javno-privatnih partnerstava, po

mogućnosti diljem Unije, kako bi se osigurala suradnja industrije i dizajnera u području

robotike s javnim tijelima i svim ostalim relevantnim dionicima; vjeruje da bi takvi

instrumenti trebali biti usmjereni na praktična rješenja radi jamčenja privatnosti i zaštite

podataka, ljudskog dostojanstva, nediskriminacije, sigurnosti i etike industrije robotike te

primjerene svakodnevne upotrebe robota i umjetne inteligencije.

RR\1115573HR.docx 41/65 PE582.443v03-00

HR

REZULTAT KONAČNOG GLASOVANJA U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja 17.11.2016

Rezultat konačnog glasovanja +:

–:

0:

47

0

2

Zastupnici nazočni na konačnom

glasovanju

Heinz K. Becker, Malin Björk, Michał Boni, Caterina Chinnici, Ignazio

Corrao, Frank Engel, Tanja Fajon, Lorenzo Fontana, Mariya Gabriel,

Kinga Gál, Ana Gomes, Nathalie Griesbeck, Sylvie Guillaume, Jussi

Halla-aho, Monika Hohlmeier, Filiz Hyusmenova, Sylvia-Yvonne

Kaufmann, Cécile Kashetu Kyenge, Marju Lauristin, Juan Fernando

López Aguilar, Monica Macovei, Roberta Metsola, Claude Moraes,

József Nagy, Péter Niedermüller, Judith Sargentini, Birgit Sippel,

Branislav Škripek, Csaba Sógor, Helga Stevens, Traian Ungureanu,

Bodil Valero, Harald Vilimsky, Josef Weidenholzer, Tomáš

Zdechovský

Zamjenici nazočni na konačnom

glasovanju

Daniel Dalton, Anna Hedh, Teresa Jiménez-Becerril Barrio, Ska Keller,

Jeroen Lenaers, Andrejs Mamikins, Maite Pagazaurtundúa Ruiz,

Christine Revault D’Allonnes Bonnefoy, Barbara Spinelli

Zamjenici nazočni na konačnom

glasovanju prema čl. 200. st. 2.

Lynn Boylan, Verónica Lope Fontagné, Mylène Troszczynski, Tom

Vandenkendelaere, Rainer Wieland

PE582.443v03-00 42/65 RR\1115573HR.docx

HR

9.11.2016

MIŠLJENJE ODBORA ZA ZAPOŠLJAVANJE I SOCIJALNA PITANJA

upućeno Odboru za pravna pitanja

s preporukama Komisiji o pravilima građanskog prava o robotici

(2015/2103(INL))

Izvjestitelj za mišljenje Ádám Kósa

(Inicijativa – članak 46. Poslovnika)

PRIJEDLOZI

Odbor za zapošljavanje i socijalna pitanja poziva Odbor za pravna pitanja da kao nadležni

odbor u prijedlog rezolucije koji će usvojiti uključi sljedeće prijedloge:

1. poziva Komisiju da hitno provede detaljno ocjenjivanje učinka robotike na broj i vrste

radnih mjesta te na kvalitetu postojećih radnih mjesta i pripadajuće profile sposobnosti;

poziva Komisiju da prikupi informacije o novim oblicima zapošljavanja kako bi se na

najučinkovitiji mogući način unaprijed procijenilo, kao prvo, donosi li robotika sama po

sebi dobrobit i napredak, čini li ona ljudski rad u okviru tradicionalne strukture

proizvodnje i usluga nepotrebnim i, ako da, koji su uvjeti osim financijske sigurnosti

potrebni da bi se osiguralo psihičko i fizičko zdravlje i sreća ljudi te aktivnost građana i

hoće li teoretska korist od simbioze ljudi i strojeva i u praksi pridonijeti dobrobiti i

razvoju te, kao drugo, može li se na tržištu rada koje se mijenja zakonima i praksom

država članica zajamčiti društveno pravedan, uključiv i održiv način smanjivanja

nejednakosti, siromaštva i socijalne isključenosti te okružje u kojem sva ljudska bića

imaju jednake prilike za razvoj talenata, vještina i osjećaja individualnosti;

2. ističe da je razvoj robotike i umjetne inteligencije sve brži te da je ključno oblikovati

njegov tijek i predvidjeti moguće posljedice u pogledu zapošljavanja i socijalne politike

jer intenzivnije i opće korištenje robotike u proizvodnji robe i pružanju usluga vodi k

većoj produktivnosti uz manji broj zaposlenika te će se stoga tijekom sljedećih

desetljeća neka radna mjesta u potpunosti ukinuti, a na mnoga druga će to imati

utjecaja; stoga poziva Komisiju da provede analizu izazova i prilika u pogledu

zapošljavanja i da osmisli metodu kojom će se omogućiti praćenje broja i vrste ukinutih

radnih mjesta i novih radnih mjesta do kojih će dovesti robotizacija i automatizacija, te

utjecaja te pojave na gubitak prihoda u sustavima socijalne sigurnosti; nadalje, poziva

Komisiju da redovito i u dijalogu sa socijalnim partnerima procjenjuje do koje se mjere

RR\1115573HR.docx 43/65 PE582.443v03-00

HR

tjedno, godišnje i životno radno vrijeme može smanjiti bez gubitka prihoda, da počne

istraživati nove mogućnosti financiranja budućih sustava socijalne sigurnosti te da

preispita način na koji radnici obavljaju svoje poslove i način na koji se pojedinci,

timovi i projekti mogu bolje povezati preko digitalnih radnih platformi;

3. ističe da će se kao posljedica robotizacije, s jedne strane, mnoga radna mjesta ukinuti, a

s druge će se u mnogim sektorima gospodarstva pojedinačno radno vrijeme skratiti, ali

bi se povećanom produktivnošću moglo financirati zadržavanje jednakih plaća;

4. smatra da bi robote trebalo projektirati primjenom procesa kojima se jamči ljudska

kontrola i reverzibilnost operacija robota te da, s obzirom na sve veću autonomnost

robota, to treba popratiti izmjenom propisa o odgovornosti kad je riječ o posljedicama

povezanima s djelovanjem ili nedjelovanjem robota; zabrinut je zbog nepostojanja

općeg okvira i pravnih odredbi u pogledu automatizacije posla u toj novoj industrijskoj

revoluciji i smatra da je od ključne važnosti da Unija donese pravni okvir koji će

odražavati kompleksnost robotike i njezinih brojnih društvenih implikacija; stoga

poziva Komisiju da predloži zajedničku definiciju pametnih autonomnih robota na

radnom mjestu i njihovih potkategorija te da razmotri prednosti i nedostatke obaveznog

osiguranja kojim će se pokrivati moguće štete i propusti koje prouzročuju roboti;

5. ističe da se sustavi obrazovanja i osposobljavanja moraju prilagoditi promjenama u

zanimanjima i načinima proizvodnje pri čemu veći naglasak treba staviti na kreativne

poslove u kojima se radnje ne ponavljaju kako bi se očuvala vrijednost ljudskog rada i

svim generacijama pružili sredstva za najbolju moguću pripremu za tržište rada u

svijetu koji se zbog robotizacije i automatizacije stalno mijenja; ističe važnost

fleksibilnosti vještina te životnih i društvenih vještina u obrazovanju; uvjeren je da osim

školskog akademskog znanja djeca trebaju steći i vještinu kritičkog razmišljanja da bi

mogla propitkivati stvari i donositi odluke utemeljene na informacijama, kreativne

vještine da bi mogla provoditi ideje u djelo i razvijati smisao za inicijativu te je također

uvjeren da cjeloživotno učenje treba ostvarivati cjeloživotnim djelovanjem; ističe da su

digitalne kompetencije ključne jer današnja brza automatizacija i digitalizacija posla i

usluga zahtijeva razvoj digitalnih vještina i kompetencija da bi se zajamčila visoka

razina zapošljavanja i iskorijenili sve veća digitalna nepismenost i s njome povezan

rizik od socijalne isključenosti; ističe da posebnu pažnju treba posvetiti digitalizaciji

nastave i iskorištavanju robotizacije u nastavi i učenju, dok bi se u obrazovanju

naglasak trebao staviti i na društvene znanosti koje su korisne u pogledu kreativnih,

inovativnih, umjetničkih i kulturnih kvaliteta, kako bi na izmijenjenom tržištu rada ljudi

zadržali svoje komparativne prednosti u odnosu na strojeve;

6. uviđa da robotika ima velik potencijal u pogledu potpore i olakšavanja svakodnevnog

života, prije svega kad je riječ o osobama s invaliditetom i starijim osobama, i da bi ona

takvim osobama mogla uvelike pomoći da same oblikuju svoj život i da se uključe u

tržište rada te smatra da se mora pomno razmotriti pitanje koje bi odredbe o

zapošljavanju mogle biti nužne u pogledu radne snage ako umjetan i genetski razvoj ili

nadograđivanje postojećih ljudskih sposobnosti dovedu do postojanja ljudi s

izvanrednim sposobnostima, čime bi se u temelju izmijenilo značenje pojma

invaliditeta, a ljudima koji imaju pristup takvim tehnološkim inovacijama, alatima i

intervencijama pružila nedostižna prednost, koja će, naravno, dovesti to etičkih i

moralnih pitanja kojima se treba temeljito pozabaviti;

PE582.443v03-00 44/65 RR\1115573HR.docx

HR

7. ističe da odluka pojedinca da prihvati ili odbije implantat, protezu ili ekstenziju za svoje

tijelo nikad ne smije dovesti do nepovoljnog postupanja s tom osobom ili prijetnji u

pogledu njezina zaposlenja, obrazovanja, zdravstvene skrbi, socijalnog osiguranja i

drugih prava te naglašava da svi građani moraju imati jednak i slobodan pristup

koristima nove tehnologije; u tom pogledu ističe da je, budući da je ljudsko

dostojanstvo u središtu europskog i međunarodnog prava u području ljudskih prava,

važno preispitati kako se može zajamčiti da se s osobama koje se još ne smatraju

osobama s invaliditetom ne postupa nepovoljnije nego s „osobama s poboljšanim

sposobnostima”, kao što je slučaj s osobama s mentalnim ili intelektualnim

invaliditetom, te hoće li osobe s mentalnim ili intelektualnim invaliditetom moći

samostalno donositi odluke s pomoću podrške robota za donošenje odluka, kao što je

navedeno u Konvenciji o pravima osoba s invaliditetom, i kako u tom slučaju treba

podijeliti odgovornost;

8. međutim, ističe da pri korištenju robota postoje rizici koje treba pažljivo odmjeriti u

odnosu na korist koju mogu donijeti; napominje da treba imati na umu ozljede na radu

koje prouzročuju roboti i s njima povezana potraživanja; napominje da bi, iako može

povećati produktivnost, nosiva robotska tehnologija kao što su egzoskeletoni za zaštitu

od ozljeda na radu mogla dovesti i do većih očekivanja poslodavaca od zaposlenika te

stoga i do većeg rizika od ozljeda; ističe da, među ostalima, zakonodavci, poslodavci,

sindikati i zaposlenici moraju to uzeti u obzir u internim pravilima i kolektivnim

sporazumima te da bi drugi rizici u vezi s robotima mogli biti povezani s borbom protiv

diskriminacije, npr. u slučaju da nakon intervjua za posao prikupljeni podaci dovedu do

neplanirane analize; napominje da zbog primjene robotike može doći i do novih izazova

povezanih s trgovinom i privatnošću;

9. ističe da je, s obzirom na sve veće podjele u društvu i smanjivanje srednje klase, važno

imati na umu da razvoj robotike može dovesti do visoke koncentracije bogatstva i moći

u rukama manjine;

10. napominje da se zbog utjecaja tehnološkog napretka i trenutačne robotizacije na

zapošljavanje i socijalnu politiku radikalno izmijenio način na koji ljudi pristupaju

informacijama i pružaju ih, komuniciraju, druže se i rade, zbog čega nastaju nove

prilike i izazovi, a zahvaljujući mogućem povećanju učinkovitosti aktivnosti te štednje

energije i materijala otvaraju se i nove mogućnosti; međutim, ističe i da bi, iako roboti i

umjetna inteligencija kratkoročno i srednjoročno obećavaju stvarne prednosti u pogledu

djelotvornosti i ekonomije, ne samo u području proizvodnje i trgovine već i u

područjima u kojima je zbog potrebe za ljudskom interakcijom, inteligencijom i

kreativnošću teško provesti automatizaciju te su dosada u njima mogli raditi isključivo

ljudi, primjerice u sektorima u kojima je zaposlen velik broj katkad nisko kvalificiranih

radnika, mogla postojati opasnost da će broj novih radnih mjesta u području robotike

biti manji od broja ukinutih radnih mjesta u područjima kao što su prijevoz, logistika i

uredski poslovi; stoga poziva Komisiju i države članice da u suradnji sa socijalnim

partnerima te regionalnim i lokalnim tijelima prema potrebi izrade nove mehanizme

zaštite prikladne za načine rada i razvoja karijera koje oblikuju digitalizacija i veća

upotreba robotike te da se pobrinu za prikladno obrazovanje i osposobljavanje dostupno

svima;

11. ističe da bi zbog razvoja i korištenja pametnih robota koji surađuju i umjetne

RR\1115573HR.docx 45/65 PE582.443v03-00

HR

inteligencije razlika između broja novih i ukinutih radnih mjesta mogla imati posljedice

na financijsku održivost sustava socijalne sigurnosti, mirovinskih sustava i sustava

osiguranja za nezaposlene u državama članicama te ističe da bi srednjoročni i dugoročni

gubitak radnih mjesta zbog robotizacije također mogao biti povezan s rizikom od

gubitka kapaciteta potrošnje; ističe da veći dio koristi od automatizacije i robotizacije u

području zapošljavanja ne bi trebao dolaziti samo od smanjenja troška rada već i od

povećanja produktivnosti smanjenjem broja pogrešaka, većom proizvodnjom,

poboljšanom kvalitetom i sigurnošću te većom brzinom; poziva Komisiju i države

članice da se pri prilagodbi zakonodavnog okvira u području robotike i digitalnog

gospodarstva redovito savjetuju sa socijalnim partnerima i da ih uključe u taj proces, da

utvrde koji su potencijalni rizici za zdravlje i sigurnost na radu koji proizlaze iz

tehnoloških inovacija i poduzmu prikladne mjere za suzbijanje tih rizika te da istraže

mogućnost da se prije početka korištenja robota i njihovog relativnog sudjelovanja u

prometu trgovačkih društava, uvede sustav obavještavanja u svrhu oporezivanja i

davanja doprinosa za socijalno osiguranje;

12. poziva Komisiju da predstavi smjernice o etičkim i socijalnim načelima kojima treba

popratiti buduće propise u području robotike, posebno u pogledu cilja definiranja normi

okrenutih budućnosti prikladnih za budući tehnološki razvoj;

13. skreće pozornost na rad od kuće preko interneta (en. crowdworking); poziva Komisiju

da prouči taj novi način zapošljavanja i preispita do koje mjere treba prilagoditi sustave

socijalne sigurnosti i mjerodavno radno pravo da bi se takvim radnicima pružila

prikladna zaštita;

14. ističe da je tehnološki napredak nemoguće kočiti, ali da današnja generacija ima i

priliku i odgovornost usmjeriti ga tako da donese korist za ljude i planetu; smatra da bi

Unija trebala doprinijeti integriranoj strategiji u političkim područjima dobrobiti,

ekonomskog rasta i tehnologije da bi bila u prvim redovima kad je riječ o globalnom

razvoju; poziva države članice i Komisiju da detaljno prouče posljedice koje će veća

upotreba robotskih sustava u bliskoj budućnosti imati na rad i da izrade okvir za taj

razvoj sa zakonodavstvom oblikovanim na način da tehnološka tranzicija bude što

jednostavnija za zaposlenike; čvrsto je uvjeren da hitno treba pronaći odgovor na pitanje

hoće li kao rezultat daljnjeg razvoja robotike i jeftinijih rješenja biti radnih mjesta na

kojima će se mogućnost ljudi da rade ograničiti zakonom zbog štetnosti ili opasnosti

posla po ljudsko zdravlje (kao što su propisi koji se trenutačno primjenjuju na trudnice)

ili zbog drugih razloga te na pitanje u kojim bi se područjima mogla razmotriti

ograničenja ili zabrane djelomične ili potpune automatizacije da bi se, uzimajući u obzir

demografske promjene i održivost, zajamčili sigurnost i poštovanje temeljnih prava koja

sve veća automatizacija cijelih industrija dovodi u pitanje te da bi se izbjegle

neplanirane društvene posljedice;

15. smatra da bi nam s obzirom na brzinu tehnološkog napretka cilj trebao biti izrada

zakonodavstva u području robotike u bliskoj budućnosti; smatra i da bi zakonodavstvo

trebalo omogućavati reakciju na znanstvene i tehnološke promjene; smatra da je

potrebno predvidjeti razvoj novih područja poslovanja do čega bi moglo doći na temelju

daljnjeg razvoja robotike i umjetne inteligencije; ipak, ističe da roboti nisu samo alati za

rad već sve više samostalno djeluju u području proizvodnje robe i pružanja usluga te

stoga poziva na uspostavu sveobuhvatnih sustava zaštite kojima će se zajamčiti

PE582.443v03-00 46/65 RR\1115573HR.docx

HR

primjerena zaštita zdravlja i sigurnosti radnika koji rade s robotima i drugim oblicima

umjetne inteligencije ili uz njih, kao i na donošenje propisa o odgovornosti kojima će se

zajamčiti da se šteta koju prouzroče autonomni roboti može protumačiti u korist

zaposlenika; stoga poziva Uniju i države članice da potaknu započinjanje strukturiranog

javnog dijaloga o posljedicama razvoja takvih tehnologija čim to bude moguće i poziva

dionike koji sudjeluju u istraživanju da razviju kritički pristup i na konstruktivan način

doprinesu javnom dijalogu;

16. ističe da sve aktivnosti obrade podataka koje provode roboti ili sustavi umjetne

inteligencije moraju biti u potpunosti u skladu sa zakonom Unije o zaštiti podataka i

uključivati načela integrirane i zadane privatnosti;

17. naglašava da robotizacija nudi znatne mogućnosti za vraćanje proizvodne industrije u

Uniju, a time i stvaranje novih mogućnosti zapošljavanja, prije svega za

niskokvalificirane radnike;

18. smatra da korištenje robota u proizvodnji podrazumijeva velike izazove za zdravlje i

sigurnost na radnom mjestu; ističe da robotizacija s jedne strane može smanjiti fizičko

opterećenje radnika, ali s druge strane može dovesti i do većeg mentalnog napora zbog

veće odgovornosti pojedinca u složenijim proizvodnim procesima; poziva Komisiju i

njezine agencije, prije svega Europsku agenciju za sigurnost i zdravlje na radu, da

preispitaju učinke digitalizacije, robotike i umjetne inteligencije na mentalni napor i da

daju prijedloge za protumjere; poziva na to da se zaposlenicima pruži prilika da imaju

trajnu i aktivnu ulogu u oblikovanju vlastitog radnog okružja i da se u taj postupak na

svim razinama uključe socijalni partneri i sindikati;

19. upućuje na znanstvene studije u kojima su utvrđena četiri glavna problema koji

proizlaze iz izrade zakonodavstva za korištenje robota: povjerljivost u pogledu

platformi i proizvođača uključenih u razvoj i istraživanje umjetne inteligencije, koji nisu

uvijek vidljivi zakonodavcima; disperzija do koje dolazi kad sustave umjetne

inteligencije razvijaju timovi znanstvenika koji rade u različitim organizacijama,

geografskim područjima i jurisdikcijama; povjerljivost se odnosi na činjenicu da sustavi

umjetne inteligencije mogu obuhvaćati mnoge različite, odvojene i već postojeće

komponente opreme i programa; ističe da se učinci spajanja svih tih komponenti možda

ne mogu unaprijed u potpunosti sagledati i da nedostatak transparentnosti znači da bi

način na koji rade sustavi umjetne inteligencije mogao biti manje transparentan od

prethodnih tehnologija; napominje da bi to mogao biti problem za zakonodavce jer

problemi koje bi mogli predstavljati takvi sustavi, a ni načini na koje se oni mogu

rješavati, nisu dovoljno jasni.

RR\1115573HR.docx 47/65 PE582.443v03-00

HR

REZULTAT KONAČNOG GLASOVANJA U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja 8.11.2016

Rezultat konačnog glasovanja +:

–:

0:

36

7

9

Zastupnici nazočni na konačnom

glasovanju

Laura Agea, Guillaume Balas, Brando Benifei, Vilija Blinkevičiūtė,

Enrique Calvet Chambon, David Casa, Ole Christensen, Martina

Dlabajová, Lampros Fountoulis, Arne Gericke, Sergio Gutiérrez Prieto,

Marian Harkin, Danuta Jazłowiecka, Agnes Jongerius, Rina Ronja Kari,

Jan Keller, Ádám Kósa, Jean Lambert, Patrick Le Hyaric, Jeroen

Lenaers, Verónica Lope Fontagné, Javi López, Morten Løkkegaard,

Thomas Mann, Dominique Martin, Anthea McIntyre, Joëlle Mélin,

Elisabeth Morin-Chartier, Emilian Pavel, João Pimenta Lopes, Georgi

Pirinski, Marek Plura, Terry Reintke, Sofia Ribeiro, Maria João

Rodrigues, Claude Rolin, Sven Schulze, Siôn Simon, Jutta Steinruck,

Yana Toom, Renate Weber, Tatjana Ždanoka, Jana Žitňanská

Zamjenici nazočni na konačnom

glasovanju

Daniela Aiuto, Georges Bach, Amjad Bashir, Heinz K. Becker, Csaba

Sógor, Helga Stevens, Neoklis Sylikiotis, Flavio Zanonato

Zamjenici nazočni na konačnom

glasovanju prema čl. 200. st. 2.

David Coburn

PE582.443v03-00 48/65 RR\1115573HR.docx

HR

14.10.2016

MIŠLJENJE ODBORA ZA OKOLIŠ, JAVNO ZDRAVLJE I SIGURNOST HRANE

upućeno Odboru za pravna pitanja

s preporukama Komisiji o pravilima građanskog prava o robotici

(2015/2103(INL))

Izvjestitelj za mišljenje: Cristian-Silviu Buşoi

(Inicijativa – članak 46. Poslovnika)

PRIJEDLOZI

Odbor za okoliš, javno zdravlje i sigurnost hrane poziva Odbor za pravna pitanja kao nadležni

odbor:

– da u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

A. budući da je starenje rezultat dužeg očekivanog životnog vijeka zbog napretka u

pogledu životnih uvjeta i u modernoj medicini te je ono jedno od najvećih političkih,

socijalnih i gospodarskih izazova za europska društva u 21. stoljeću; budući da će do

2025. više od 20 % Europljana biti u dobi od 65 godina ili starije, uz posebno rapidan

porast broja osamdesetogodišnjaka i osoba starijih od 80 godina, što će dovesti do

potpuno različite ravnoteže među generacijama u našim društvima, te budući da je u

interesu društva i obitelji da starije osobe ostanu zdrave i aktivne što je dulje moguće;

B. budući da je prodaja i proizvodnja robota između 2010. i 2014. godine znatno porasla, a

povećanje je samo 2014. iznosilo gotovo 30 %, posebno u sektoru zdravstva i pružanja

skrbi;

C. budući da u društvu koje stari rastu prevalencija i stopa invaliditeta, kroničnih bolesti,

rizika od moždanog udara, ozljeda mozga i smanjenih sposobnosti;

D. budući da će se društva i zdravstveni sustavi trebati prilagoditi procesu starenja i

zahtjevima povezanima sa zdravstvenom skrbi za starije osobe kako bi mogli pružati

prikladnu skrb i ostati financijski održivi;

E. budući da su kibernetičko-fizički sustavi tehnički sustavi mrežnih računala, robota i

umjetne inteligencije koji imaju interakciju s fizičkim svijetom, a primjenjuju se na

RR\1115573HR.docx 49/65 PE582.443v03-00

HR

brojne načine u zdravstvenom sektoru;

F. budući da je zbog prirode kibernetičko-fizičkih sustava potrebno dostići specifične i

detaljnije standarde jednake u cijeloj Uniji;

G. budući da će se takvim sustavima postaviti temelji za nove i buduće pametne usluge te

omogućiti razvoj personalizirane zdravstvene skrbi, hitne pomoći i zdravstvene skrbi na

daljinu;

H. budući da niti u kojem slučaju upotreba dijagnostičkih instrumenata ili onih za liječenje

robotskog tipa ili napredne tehnologije ne smije dovesti do povećanja odgovornosti

liječnika ili medicinskog osoblja koji ih upotrebljavaju, te se u tom smislu smatra

važnim povećati odgovornost zdravstvenih ustanova ili uključenih proizvođača;

I. budući da je ekonomski i društveni potencijal kibernetičko-fizičkih sustava znatno veći

nego što je prvobitno bilo zamišljeno te da se diljem svijeta ulažu znatna sredstva u

razvoj te tehnologije;

J. budući da upotreba tehnologija ne smije umanjiti odnos liječnik-pacijent niti mu

naštetiti, već treba pružati pomoć liječnicima pri uspostavi dijagnoze i/ili liječenju

pacijenta;

K. budući da kibernetičko-fizički sustavi postavljaju mnoga visoka očekivanja i imaju

velik potencijal, učinci novouvedenih tehnologija nikad se neće moći u potpunosti

predvidjeti te se mogu uspješno integrirati samo ako se društvo može prilagoditi novom

načinu interakcije s tehnologijom;

1. prima na znanje da će se usvajanjem novih tehnologija u području zdravstvene skrbi,

pod uvjetom da se prednost daje odnosu između pacijenta i liječnika te slobodi izbora,

najvjerojatnije ostvariti velike koristi u pogledu njege pacijenta te učinkovitosti i

preciznosti liječenja u cilju smanjenja rizika od ljudske pogreške, što će dovesti do

povećane kvalitete života i duljeg očekivanog životnog vijeka;

2. smatra da, iako robotika može društvu donijeti koristi, one istodobno mogu znatno

promijeniti načine na koje ljudi komuniciraju jedni s drugima te tako imati stvaran

utjecaj na postojeće društvene strukture; stoga ističe hitnu potrebu za opsežnom i

informiranom javnom raspravom o toj novoj tehnološkoj revoluciji;

3. smatra da je od ključne važnosti da Unija razradi pravni okvir na osnovi etičkih načela

koja mogu odražavati složenost područja robotike i njenih mnogih društvenih,

medicinskih i bio-etičkih implikacija;

4. ističe da inovacije u pogledu pružanja bolje dijagnoze i boljih uvida u opcije liječenja,

njege i rehabilitacije dovode do preciznijih medicinskih odluka i bržeg oporavka, čime

bi se stoga mogao olakšati problem nedostatka stručnih radnika u području zdravstvene

skrbi u procesima njege i rehabilitacije;

5. ističe da povećanje potražnje za jedinicama kibernetičko-fizičkih sustava ima potencijal

za stvaranje većeg broja radnih mjesta za visokokvalificirane osobe u Uniji;

PE582.443v03-00 50/65 RR\1115573HR.docx

HR

6. smatra prisutnost robota kao potpornih figura u radu liječnika ili zdravstvenih djelatnika

korisnom za poboljšanje ljudskog iskustva dijagnosticiranja i liječenja, ali bez

zaboravljanja potrebe da se ne dopusti dehumanizacija liječničke prakse i skrbi o

pacijentima;

Roboti za njegu

7. napominje da se kibernetičko-fizičkim sustavima može na bolje promijeniti život osoba

s invaliditetom jer se pametne tehnologije mogu koristiti za prevenciju, pružanje

pomoći, praćenje i socijalnu interakciju;

8. primjećuje da je vjerojatno da će kibernetičko-fizički sustavi imati snažan utjecaj na

zdravstveni sektor zbog svojeg potencijala za smanjenje ukupnih troškova zdravstvene

skrbi tako što će zdravstvenim djelatnicima omogućiti da se usredotoče na prevenciju

umjesto na liječenje;

9. naglašava da su istraživanje i razvoj u području robotike za skrb za starije osobe s

vremenom postali rašireniji i jeftiniji te nastaju proizvodi bolje funkcionalnosti koje

potrošači bolje prihvaćaju; napominje da takve tehnologije, koje starijim osobama kao i

osobama koje pate od demencije, kognitivnih poremećaja i gubitka pamćenja pružaju

usluge prevencije, pomoći, praćenja, poticanja i socijalne interakcije, imaju široku

primjenu;

10. ističe da, iako se kibernetičko-fizičkim sustavima može poboljšati mobilnost i društvena

uključenost osoba s invaliditetom i starijih osoba, ljudski njegovatelji će i dalje biti

potrebni te nastaviti imati važnu ulogu koja nije u potpunosti zamjenjiva u socijalnoj

interakciji; napominje da se tehnologijama ili robotima kibernetičko-fizičkih sustava

može samo znatno poboljšati skrb koju pruža zdravstveno osoblje i na bolji način

usmjeriti proces rehabilitacije kako bi medicinsko osoblje i njegovatelji imali više

kvalitetnog vremena za dijagnostiku i pružanje boljih opcija liječenja;

Medicinski roboti

11. napominje da se stariji oblici robota i pametnih uređaja s kibernetičko-fizičkim

sustavima već koriste u zdravstvenoj skrbi, kao što su uređaji e-zdravstva i kirurški

roboti, te da će se u bliskoj budućnosti ta tehnologija nastaviti razvijati i potencijalno

smanjiti troškove zdravstvene skrbi jer će zdravstvenim djelatnicima omogućiti da se

usredotoče na prevenciju umjesto na liječenje zbog čega će više proračunskih sredstava

biti namijenjeno za bolju prilagodbu različitim potrebama pacijenata, stalnom

osposobljavanju zdravstvenih djelatnika i istraživanju;

12. ističe da bi povećana uporaba kibernetičko-fizičkih sustava mogla stvoriti zdravije

društvo jer zahvati tako postaju manje invazivni zbog čega je vrijeme oporavka kraće te

se smanjuje broj slučajeva izostajanja s radnog mjesta iz zdravstvenih razloga;

13. primjećuje da se medicinski roboti nastavljaju razvijati te da će se vjerojatno početi

češće upotrebljavati u operacijskim zahvatima, čime će se pomicati granice medicine;

14. prima na znanje da su kirurški roboti zamišljeni kako bi se proširile sposobnosti ljudskih

kirurga izvan ograničenja tradicionalne laparoskopije te da su se kirurški roboti razvili

RR\1115573HR.docx 51/65 PE582.443v03-00

HR

iz želje da se takva ograničenja prevladaju i da se prošire koristi minimalno invazivne

operacije, detaljnih pokreta i preciznosti;

15. napominje da se kibernetičko-fizičkim sustavima omogućuju operacije na daljinu, uz

brojne prednosti kao što je povećana preciznost pokreta ruku, uklanjanje drhtanja iz

pokreta ruku, uvećani pregled, koji mogu odmah analizirati i procijeniti, poboljšana

mobilnost ruku i operiranje na daljinu, te da temeljni preduvjet mora biti da liječnici

steknu vještine i ovlasti za obavljanje zahvata s pojedinačnim uređajima kibernetičko-

fizičkih sustava;

16. napominje da je tijekom posljednjih godina došlo do znatnih promjena u sektoru

medicinskog obrazovanja i osposobljavanja; nadalje napominje da, s obzirom na to da

medicinska skrb postaje sve složenija, akademski zdravstveni centri pružaju mogućnost

da se poboljša cjelovit pristup zdravlju, preispita način na koji se medicinsko

obrazovanje i doživotno učenje pružaju, uz očuvanje osnovnog načela prema kojem

liječnici i dalje imaju veću stručnost od robota te upravljaju njima; traži od Komisije i

država članica da promiču visoke standarde osposobljavanja i specijalizacije za

medicinsko i paramedicinsko osoblje koje koristi ili će koristiti nove robotske

tehnologije te da potiču slobodno kretanje kirurga koji namjeravaju koristiti te

tehnologije za izvođenje operacija;

17. poziva Komisiju i države članice da ojačaju financijske instrumente za istraživačke

projekte u području robotike i društveno-zdravstvenih hitnih intervencija;

18. smatra da je od temeljne važnosti poštovanje načela nadzirane autonomije robota na

temelju kojega početno programiranje liječenja i konačnog odabira načina izvršenja

ostaje uvijek u domeni odluke ljudskog kirurga;

Klinička procjena i klinička istraživanja

19. ističe da medicinski kibernetičko-fizički sustavi trebaju zadovoljiti visoke standarde za

medicinsku opremu s pomoću učinkovitih postupaka provjere i certifikacije kojima se

omogućuje procjena sigurnosti i učinkovitosti predloženih tehnologija koju provodi na

odgovarajući način osposobljeno osoblje, čak i u fazi njihova osmišljavanja;

20. naglašava važnost razlikovanja kirurških robota od proteza i egzoskeletona od robota za

pratnju čija je funkcija pomoć osobama s invaliditetom ili privremeno nesposobnim

osobama; naglašava važnost da se obje vrste podvrgnu kontrolama koje će se obavljati

prema što preciznijim i detaljnijim standardima;

21. pozdravlja politički dogovor o Uredbi o medicinskim uređajima (2012/0266(COD)) koji

su suzakonodavci postigli u lipnju 2016.; poziva Komisiju da prije datuma početka

primjene te Uredbe zajamči da su postupci za ispitivanje novih medicinskih robota

sigurni, posebno ako je riječ o uređajima koji se implantiraju u ljudsko tijelo; nadalje,

napominje da pacijenti moraju imati potpuni uvid u svoje podatke, a javnost mora imati

potpuni uvid u podatke o neuspjelim i uspjelim ispitivanjima te da pacijentima i javnosti

mora biti jasna odgovornost za neuspjela ispitivanja i kibernetičko-fizičke sustave;

Etika

PE582.443v03-00 52/65 RR\1115573HR.docx

HR

22. naglašava da, iako razvoj tehnologije eksponencijalno raste, socijalni sustavi u Uniji ne

mogu odgovoriti jednakom brzinom, dok sustavi zdravstvene skrbi još sporije reagiraju;

naglašava da takav razvoj znatno utječe na današnju civilizaciju te da je stoga ključno

da je tehnološki napredak popraćen procjenom dugoročnih moralnih i etičkih

implikacija novih tehnologija prije i tijekom njihova razvijanja;

23. naglašava važnost da se osigura, u skladu s etičkim standardima, da robotski proizvodi

jamče poštovanje temeljnih prava pojedinca, kao i socijalnih prava zaštićenih na razini

Unije, predviđanjem eventualnih tehničkih svojstava koja jamče takvo poštovanje već

od faze projektiranja u skladu s takozvanim pristupom „privacy by design”;

24. skreće pozornost na rizike povezane s mogućnošću da kibernetičko-fizički sustavi

integrirani u ljudsko tijelo budu hakirani, isključeni ili da im se izbrišu računalne

memorije jer bi se tako moglo ugroziti ljudsko zdravlje, a u krajnjim slučajevima i

ljudski životi, te stoga ističe da zaštita tih sustava mora biti prioritet;

25. prima na znanje osjetljivost pacijenata s posebnim potrebama, uključujući djecu, starije

osobe i osobe s invaliditetom, te ističe da se svaki korisnik može emotivno povezati s

kibernetičko-fizičkim sustavima i robotima; ističe etička pitanja povezana s takvim

mogućim povezivanjem; potiče Komisiju da počne razmatrati kako će zajamčiti da

kibernetičko-fizički sustavi ne utječu negativno na samostalnost i neovisnost osoba u

osjetljivom položaju;

26. traži od Komisije i država članica da promiču razvoj pomoćnih tehnologija i kroz

režime odgovornosti različite od onih koji se trenutačno primjenjuju, kako bi se potakao

razvoj i kako bi subjekti kojima je to potrebno usvojili te tehnologije, u skladu s

člankom 4. Konvencije UN-a o pravima osoba s invaliditetom koju je potpisala Unija;

27. ističe da je važno očuvati temeljni odnos između pacijenta i liječnika, posebno u

pogledu komunikacije o medicinskoj dijagnozi i liječenju;

28. napominje da uporaba kibernetičko-fizičkih sustava postavlja pitanje poboljšanja

čovjekovih sposobnosti, koje se definira kao poboljšanje postojećih prirodnih ljudskih

vještina ili dodjeljivanje novih vještina, što pojedinim osobama omogućuje da

nadvladaju invaliditet;

Utjecaj na okoliš

29. prima na znanje da je mogući okolišni ili ekološki otisak robotike potrebno svesti na

najmanju moguću mjeru jer se očekuje da će se korištenjem kibernetičko-fizičkih

sustava i robota povećati cjelokupna potrošnja energije te količina električnog i

elektroničkog otpada; ističe da je potrebno što više povećati potencijal da postupke

učini resursno učinkovitijima te povećati energetsku učinkovitost promicanjem

korištenja obnovljivih tehnologija u području robotike, promicati uporabu i ponovnu

uporabu sirovina te smanjiti količinu otpada; stoga potiče Komisiju da načela kružne

ekonomije uvrsti u svaku politiku Unije o robotici;

30. također primjećuje da će uporaba kibernetičko-fizičkih sustava imati pozitivan utjecaj

na okoliš, posebno u područjima poljoprivrede i opskrbe hranom, konkretno

zahvaljujući smanjenoj veličini strojeva i smanjenoj uporabi gnojiva, energije i vode,

RR\1115573HR.docx 53/65 PE582.443v03-00

HR

kao i preciznoj poljoprivredi;

31. ističe da će kibernetičko-fizički sustavi dovesti do stvaranja energetskih i

infrastrukturnih sustava koji mogu nadzirati protok električne energije od proizvođača

do potrošača te će također dovesti do nastanka „proizvođača-potrošača” električne

energije, koji i proizvode i troše energiju; tako će donijeti velike koristi za okoliš;

– da u Prilog prijedlogu rezolucije koji će usvojiti uvrsti sljedeće preporuke:

Sigurnost

Sigurnost medicinskih robota preduvjet je za njihovo uvođenje u sektor zdravstvene

skrbi. Potrebno je ocijeniti učinkovitost i sigurnost robota za njegu i medicinskih robota

s pomoću posebnih, vrlo detaljno razrađenih sigurnosnih zaštitnih mjera i

standardiziranih postupaka za certifikaciju, uz poseban naglasak na njihovu primjenu u

skrbi za osobe s poteškoćama ili u hitnim situacijama; poziva Komisiju da donese

detaljne zajedničke specifikacije za medicinske robote; posebnu pozornost trebalo bi

obratiti na sigurnost mreža kibernetičko-fizičkih sustava kako bi se uklonila svaka

mogućnost hakiranja tih sustava i krađe osjetljivih osobnih podataka.

Sigurnost kibernetičko-fizičkih sustava implantiranih u ljudsko tijelo temeljni je

preduvjet jer bi svaka greška u njima mogla biti kobna te je u tom kontekstu važno

pružiti informacije i nedvosmisleno regulirati pitanja odgovornosti, uključujući pitanje

čije su vlasništvo ti implantirani kibernetičko-fizički sustavi, tko ima prava nad njima te

tko može promijeniti njihovu implantaciju, uz strogu zabranu svakog provođenja

pokusa na osobama bez njihova pristanka.

Privatnost

Korištenjem medicinskih kibernetičko-fizičkih sustava i robota kao „elektroničke

zdravstvene dokumentacije” otvaraju se pitanja o zakonima o privatnosti pacijenata,

liječničkoj tajni i zaštiti podataka u području javnog zdravlja. Trebalo bi prilagoditi

pravila Unije o zaštiti podataka kako bi se u obzir uzela sve veća složenost i međusobna

povezanost robota za njegu i medicinskih robota koji možda raspolažu vrlo osjetljivim

osobnim i zdravstvenim podacima te bi ih trebalo uskladiti s pojmom zaštite privatnosti

već pri projektiranju („privacy by design”) kako je utvrđeno u Uredbi (EU) 2016/679 o

zaštiti podataka. Trebalo bi poboljšati kodeks ponašanja o liječničkoj tajni u pogledu

zdravstvenih podataka pohranjenih u kibernetičko-fizičkim sustavima kojima mogu

pristupiti treće strane.

Osiguravajućim društvima ili drugim pružateljima usluga ne bi se smjelo dopustiti

korištenje podataka iz e-zdravstva kako ne bi bilo diskriminacije u određivanju cijena

jer bi to bilo protivno temeljnom pravu na najviši mogući standard zdravlja.

Povjerenstva za istraživačku etiku

Povjerenstva za istraživačku etiku trebala bi u obzir uzimati etička pitanja do kojih

dolazi zbog razvoja medicinskih robota i kibernetičko-fizičkih sustava u mnogim

PE582.443v03-00 54/65 RR\1115573HR.docx

HR

područjima zdravstvene skrbi i pružanja pomoći za osobe s invaliditetom i starije osobe.

Potrebno je pažljivo razmotriti pitanja kao što je jednakost pristupa robotskoj

preventivnoj zdravstvenoj skrbi, privilegirani odnos između pacijenta i liječnika te

podložnost osobito pacijenata s posebnim potrebama (primjerice, osoba s

invaliditetom), ali i drugih pacijenata (kao što su djeca, usamljene osobe itd.), da se

emotivno povežu s robotima.

Potiče povjerenstva za istraživačku etiku i Komisiju da započnu postupak razmatranja

kako bi razradili kodeks ponašanja za istraživače/projektante i korisnike medicinskih

kibernetičko-fizičkih sustava, koji bi se trebao temeljiti na načelima sadržanima u

Povelji Europske unije o temeljnim pravima (kao što su ljudsko dostojanstvo i ljudska

prava, jednakost, pravda i pravednost, korist i šteta, dostojanstvo, nediskriminacija i

nestigmatizacija, samostalnost i odgovornost pojedinaca, informirani pristanak,

privatnost i društvena odgovornost, kao i prava starijih osoba, integracija osoba s

invaliditetom, pravo na zdravstvenu skrb i pravo na zaštitu potrošača), te na postojećim

etičkim praksama i kodeksima.

Valja spomenuti da robotika može unijeti visok stupanj nesigurnosti u pogledu pitanja

odgovornosti;

RR\1115573HR.docx 55/65 PE582.443v03-00

HR

REZULTAT KONAČNOG GLASOVANJA U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja 13.10.2016

Rezultat konačnog glasovanja +:

–:

0:

61

0

0

Zastupnici nazočni na konačnom

glasovanju

Marco Affronte, Margrete Auken, Pilar Ayuso, Zoltán Balczó,

Catherine Bearder, Ivo Belet, Nessa Childers, Birgit Collin-Langen,

Mireille D’Ornano, Miriam Dalli, Angélique Delahaye, Stefan Eck, Bas

Eickhout, Eleonora Evi, José Inácio Faria, Elisabetta Gardini, Gerben-

Jan Gerbrandy, Jens Gieseke, Julie Girling, Sylvie Goddyn, Françoise

Grossetête, Anneli Jäätteenmäki, Jean-François Jalkh, Josu Juaristi

Abaunz, Karin Kadenbach, Kateřina Konečná, Giovanni La Via, Peter

Liese, Norbert Lins, Susanne Melior, Miroslav Mikolášik, Massimo

Paolucci, Bolesław G. Piecha, Frédérique Ries, Michèle Rivasi,

Daciana Octavia Sârbu, Annie Schreijer-Pierik, Davor Škrlec,

Dubravka Šuica, Tibor Szanyi, Claudiu Ciprian Tănăsescu, Jadwiga

Wiśniewska, Damiano Zoffoli

Zamjenici nazočni na konačnom

glasovanju

Guillaume Balas, Paul Brannen, Nicola Caputo, Michel Dantin, Mark

Demesmaeker, Luke Ming Flanagan, Elena Gentile, Martin Häusling,

Krzysztof Hetman, Gesine Meissner, James Nicholson, Marijana Petir,

Gabriele Preuß, Christel Schaldemose, Jasenko Selimovic, Mihai

Ţurcanu

Zamjenici nazočni na konačnom

glasovanju prema čl. 200. st. 2.

Nicola Danti, Anna Hedh

PE582.443v03-00 56/65 RR\1115573HR.docx

HR

15.11.2016

MIŠLJENJE ODBORA ZA INDUSTRIJU, ISTRAŽIVANJE I ENERGETIKU

upućeno Odboru za pravna pitanja

s preporukama Komisiji o pravilima građanskog prava o robotici

(2015/2103(INL))

Izvjestiteljica za mišljenje: Kaja Kallas

(Inicijativa – članak 46. Poslovnika)

PRIJEDLOZI

Odbor za industriju, istraživanje i energetiku poziva Odbor za pravna pitanja da kao nadležni

odbor:

– u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

A. budući da bi timovi sastavljeni od robota i ljudi mogli biti 85 %1 produktivniji od timova

sastavljenih samo od robota ili samo od ljudi; budući da će roboti, poboljšanjem ljudskih

sposobnosti, smanjiti rizik od ljudske pogreške;

B. budući da Unija zauzima vodeće mjesto u industrijskoj robotici, s tržišnim udjelom

ponude i upotrebe većim od 25 %2, a tržišni rast procjenjuje se na 8 % do 9 % godišnje,

zbog čega je taj sektor strateški industrijski prioritet;

1. smatra da robotika i umjetna inteligencija imaju veliku ulogu u poboljšanju

konkurentnosti i produktivnosti europskog gospodarstva te da bi, srednjoročno gledano,

mogli imati veći utjecaj na konkurentnost neproizvodnih sektora kao što su poljoprivreda,

promet, zdravstvena skrb, sigurnost i komunalne usluge; poziva Komisiju da u području

robotike i umjetne inteligencije promiče ambicioznu međusektorsku politiku koja

pogoduje inovacijama, čime će se olakšati integracija tehnologije u lance vrijednosti i

razvoj inovativnih poslovnih modela te skratiti razdoblje između inovacije i

industrijalizacije; traži od Komisije da procijeni je li potrebno modernizirati

zakonodavstvo ili sastaviti europske smjernice kojima bi se zajamčili zajednički pristup i

1 Kao što je utvrđeno u istraživanju instituta MIT provedenom na temelju zajedničkog iskustva proizvođača

automobila BMW i Mercedes-Benz. 2 http://ec.europa.eu/programmes/horizon2020/en/h2020-section/robotics.

RR\1115573HR.docx 57/65 PE582.443v03-00

HR

djelovanje u području robotike i umjetne inteligencije, prijeko potrebni za širenje

trgovačkih društava u Europi;

2 napominje da su treće zemlje shvatile stratešku važnost robotike i da dovode u pitanje

vodeće mjesto Unije na svjetskom tržištu u tom sektoru, primjerice preuzimanjem

proizvođača iz Unije; poziva Komisiju da osmisli industrijsku strategiju u okviru koje se

rješava pitanje uloge strateški važnih sektora kao što je robotika te utvrđuje način na koji

Unija može očuvati radna mjesta, rast, znanje i veliki dio lanca vrijednosti;

3. ističe da inovacije u području robotike i umjetne inteligencije te integracija tehnologije

robotike i umjetne inteligencije u gospodarstvo i društvo zahtijevaju digitalnu

infrastrukturu kojom se omogućava univerzalna povezivost; poziva Komisiju da uspostavi

okvir kojim će se zadovoljiti uvjeti u pogledu povezivosti za digitalnu budućnost Unije i

da se pobrine za to da pristup širokopojasnoj i 5G mreži bude potpuno u skladu s načelom

mrežne neutralnosti;

4. čvrsto je uvjeren da je interoperabilnost među sustavima, uređajima i uslugama u oblaku,

utemeljena na integriranoj sigurnosti i privatnosti, nužna za protok podataka u stvarnom

vremenu, kojim se omogućava veća fleksibilnost i autonomnost robota i umjetne

inteligencije; poziva Komisiju da promiče otvoreno okružje, od otvorenih standarda i

inovativnih modela licenciranja do otvorenih platformi i transparentnosti, kako bi se

izbjegla ovisnost o vlasničkim sustavima kojima se ograničava interoperabilnost; osim

toga ističe da je potrebno pružiti visoku razinu sigurnosti, zaštite i privatnosti podataka

koji se koriste u ljudskoj komunikaciji s robotima i umjetnom inteligencijom; stoga poziva

Komisiju i države članice da u svoje politike u području robotike i umjetne inteligencije te

u strategiju kibersigurnosti EU-a uvrste načela integrirane sigurnosti i privatnosti te da

robotika i umjetna inteligencija budu teme diskusija savjetodavne skupine za

kibersigurnost na visokoj razini koju će osnovati Komisija;

5. napominje da je pristup podacima ključan za inovacije u području algoritama za strojno

učenje; poziva Komisiju da primijeni ambiciozan okvir i strategiju za otvoren i slobodan

protok podataka, posebno preko inicijative „slobodan protok podataka”, u skladu sa

zakonodavstvom za zaštitu podataka i reformiranim zakonodavstvom u području

intelektualnog vlasništva; ističe da bi se inicijativom „slobodan protok podataka” trebala

pojasniti pitanja vlasništva, upotrebljivosti i pristupa, koja su važna za daljnji razvoj i

primjenu tehnologije robotike;

6. poziva Komisiju da u okviru revizije VFO-a sredinom programskog razdoblja poveća

svoju potporu za program SPARC koji se financira iz programa Obzor 2020., da provodi

studije o prognozama, da promiče otvorene inovacije kao strateški cilj te okružje pogodno

za suradnju nacionalnih i europskih institucija, istraživačke zajednice, tijela za

normizaciju koja privlače talente, ali i privatnog sektora, svjetskih trgovačkih društava,

malih i srednjih poduzeća te novoosnovanih poduzeća koja su ključna za inovacije i

otvaranje novih tržišta u području robotike na svjetskoj razini; ističe ulogu koju javno-

privatna partnerstva mogu imati u tom pogledu;

7. ističe da bi se razvoj robotike trebao usredotočiti na dopunjavanje ljudskih sposobnosti, a

ne na njihovo zamjenjivanje; ističe da će se zahvaljujući rastu u području robotike i

umjetne inteligencije otvoriti znatan broj radnih mjesta, smanjiti izloženost ljudi štetnim i

opasnim uvjetima te preobraziti život i rad, što će iziskivati dugoročnu procjenu i mjere

PE582.443v03-00 58/65 RR\1115573HR.docx

HR

kojima će se na pravilan način riješiti pitanje socijalnog, okolišnog, etičkog i obrazovnog

aspekta te aspekta odgovornosti; posebno smatra da u sve faze obrazovanja i izobrazbe, od

ranih školskih dana do cjeloživotnog učenja, treba uključiti digitalne vještine, među

kojima je i kodiranje;

8. smatra da roboti u medicini imaju sve veću ulogu u operacijama visoke preciznosti i u

izvođenju postupaka koji se ponavljaju; smatra da imaju potencijal za poboljšanje

rezultata rehabilitacije te da pružaju vrlo učinkovitu logističku potporu u bolnicama;

– u prilog prijedlogu rezolucije uvrsti sljedeće preporuke:

9. smatra da bi se svim budućim zakonodavnim inicijativama u području robotike i umjetne

inteligencije, nakon savjetovanja s nizom različitih relevantnih dionika i na temelju

stalnog dijaloga, trebala pružiti pravna sigurnost, a da se pritom ne ometaju inovacije u

tom tehnološkom području koje se brzo razvija;

10. smatra da bi Komisija, zajedno s krajnjim korisnicima, inženjerima robotike,

istraživačkom zajednicom i svim ostalim dionicima, trebala razviti kodeks etičkog

ponašanja kojim bi se usmjeravale aktivnosti u području razvoja robotike i umjetne

inteligencije;

11. smatra da u okviru preporuka o licenciranju treba poštovati ugovornu slobodu i ostaviti

prostora za inovativne sustave licenciranja; upozorava na uvođenje novih prava

intelektualnog vlasništva u području robotike i umjetne inteligencije, koja bi mogle

ometati inovacije i razmjenu stručnog znanja.

RR\1115573HR.docx 59/65 PE582.443v03-00

HR

REZULTAT KONAČNOG GLASOVANJA U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja 13.10.2016

Rezultat konačnog glasovanja +:

–:

0:

54

1

3

Zastupnici nazočni na konačnom

glasovanju

Bendt Bendtsen, Xabier Benito Ziluaga, José Blanco López, David

Borrelli, Jerzy Buzek, Angelo Ciocca, Edward Czesak, Jakop Dalunde,

Pilar del Castillo Vera, Christian Ehler, Fredrick Federley, Ashley Fox,

Adam Gierek, Theresa Griffin, Hans-Olaf Henkel, Eva Kaili, Kaja

Kallas, Barbara Kappel, Krišjānis Kariņš, Seán Kelly, Jaromír

Kohlíček, Zdzisław Krasnodębski, Miapetra Kumpula-Natri, Janusz

Lewandowski, Ernest Maragall, Edouard Martin, Angelika Mlinar,

Nadine Morano, Dan Nica, Carolina Punset, Herbert Reul, Paul Rübig,

Algirdas Saudargas, Sergei Stanishev, Neoklis Sylikiotis, Dario

Tamburrano, Patrizia Toia, Evžen Tošenovský, Claude Turmes,

Vladimir Urutchev, Henna Virkkunen, Martina Werner, Lieve

Wierinck, Anna Záborská, Flavio Zanonato, Carlos Zorrinho

Zamjenici nazočni na konačnom

glasovanju

Michał Boni, Rosa D’Amato, Esther de Lange, Jens Geier, Benedek

Jávor, Olle Ludvigsson, Vladimír Maňka, Marian-Jean Marinescu,

Clare Moody, Maria Spyraki

Zamjenici nazočni na konačnom

glasovanju prema čl. 200. st. 2.

Salvatore Cicu, Albert Deß

PE582.443v03-00 60/65 RR\1115573HR.docx

HR

12.10.2016

MIŠLJENJE ODBORA ZA UNUTARNJE TRŽIŠTE I ZAŠTITU POTROŠAČA

upućeno Odboru za pravna pitanja

Pravila građanskog prava o robotici

(2015/2103(INL))

Izvjestiteljica za mišljenje: Dita Charanzová

(Inicijativa – članak 46. Poslovnika)

PRIJEDLOZI

Odbor za unutarnje tržište i zaštitu potrošača poziva Odbor za pravna pitanja da kao nadležni

odbor u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

A. budući da robotika ne predstavlja novinu; budući da ona može imati i već ima važnu

ulogu u mijenjanju našeg društva na bolje; budući da robotika i umjetna inteligencija

mogu imati aktivnu ulogu u digitalizaciji gospodarstva u brojnim sektorima, poput

industrije, zdravstva, građevine i prometa, te da mogu doprinijeti inovacijama, manjoj

izloženosti opasnim uvjetima rada i novim poslovnim modelima te budući da se Unija

mora aktivno zalagati za razvoj ovog područja kako bi se ostvario napredak na

digitalnom jedinstvenom tržištu;

B. budući da roboti sve više rade u neposrednoj blizini ljudi i budući da se, posebice,

tržište robotskih usluga konstantno širi i donosi nove koristi za društvo, a da se pri tome

ne zanemaruju sigurnost i pitanja povezana s odgovornošću;

C. budući da, unatoč njezinim neosporivim prednostima, primjena robotike može

rezultirati transformacijom tržišta rada i potrebom da se u skladu s time promisli

budućnost obrazovanja, zapošljavanja i socijalnih politika;

D. uzimajući u obzir znatan porast prodaje i proizvodnje robota u razdoblju između 2010. i

2014. godine, koji je samo u 2014. iznosio gotovo 30 %, posebice u elektroničkoj

industriji;

E. budući da bi digitalna transformacija europske proizvodne industrije, koja je zaslužna za

RR\1115573HR.docx 61/65 PE582.443v03-00

HR

15 % BDP-a u Uniji, 2025. mogla imati dodanu vrijednost od 1,25 bilijuna EUR1, dok

bi usvajanje autonomnih i robotskih tehnologija moglo doprinijeti rastu europske

industrijske proizvodnje i rezultirati znatnom konkurentnom prednošću za Europu;

F. budući da strojno učenje nudi izrazito velike ekonomske i inovativne koristi za društvo

jer se njime uvelike poboljšava mogućnost analize podataka, ali i da predstavlja nove

izazove u pogledu jamčenja nediskriminacije, pravičnosti, pristupa informacijama i

razumljivosti u postupcima donošenja odluka;

G. budući da zbog napretka u području primjene u medicini, poput robotskih proteza i

implantata, život osoba koje ih nose ovisi o mogućnosti održavanja, popravaka i

poboljšanja;

H. budući da se u razvoju svih novih tehnoloških i proizvodnih prototipova mora voditi

računa o zaštiti podataka i poštovanju intelektualnog vlasništva;

I. budući da su brojne treće zemlje usvojile odgovarajuće smjernice i zakonodavstvo u

području robotike te da su se neke države članice također počele ozbiljno posvećivati

tom pitanju;

1. ističe da se zauzimanjem jedinstvenog pristupa na razini Unije može olakšati razvoj jer

se na taj način izbjegava fragmentacija na unutarnjem tržištu i istovremeno naglašava

važnost načela međusobnog priznavanja u prekograničnoj upotrebi robota i robotskih

sustava; podsjeća da bi se testiranja, izdavanje certifikata i odobrenje za stavljanje na

tržište trebali zahtijevati u samo jednoj državi članici;

2. naglašava da bi taj pristup trebao biti popraćen djelotvornim nadzorom tržišta te

pravnim lijekovima i ovlastima država članica da povuku proizvode i izreknu kazne u

slučaju kršenja;

3. ističe važnost mjera za pomoć malim i srednjim poduzećima te novoosnovanim (start-

up) poduzećima u sektoru robotike, koja stvaraju nove tržišne segmente u tom sektoru i

koriste robote;

4. potiče razvoj ambiciozne europske strategije za istraživanje i inovacije u području

robotike kako bi se u potpunosti razvio njegov potencijal za rast i otvaranje radnih

mjesta u Europi;

5. iako u industriji već postoji i primjenjuje se velik broj međunarodnih standarda koji se

odnose na pitanja poput interoperabilnosti i sigurnosti, smatra da je u području robotike

i umjetne inteligencije potrebna dodatna usklađena normizacija te da bi ona trebala biti

jedan od prioriteta Unije kada je riječ o normizaciji kako bi se poticale inovacije i

zajamčila visoka razina zaštite potrošača; ističe da je od ključne važnosti da se u tom

području usmjerenom na budućnost donesu zajednički i sigurni standardi na visokoj

razini;

6. poziva Komisiju da zajedno s europskim tijelima za normizaciju i dalje proaktivno

1 STOA, Etički aspekti kibernetičko-fizičkih sustava, Studija znanstvenih predviđanja (svibanj 2016.),

Prilog 1., str. 37.

PE582.443v03-00 62/65 RR\1115573HR.docx

HR

surađuje s međunarodnim tijelima za normizaciju te da poboljša i suradnju s

međunarodnim partnerima kako bi se nastavio rad na poboljšanju standarda u tom

području; u tom smislu pozdravlja osnivanje posebnih tehničkih odbora, poput ISO/TC

299 Robotika, čiji je cilj isključivo raditi na razvoju standarda u području robotike;

7. ponavlja da se velika većina standarda donosi kao odgovor na prepoznatu potrebu u

industriji te potiče europska i međunarodna tijela za normizaciju da konstantno

preispituju svoje vlastite standarde kako bi osigurala da zadovoljavaju njihove potrebe;

8. smatra da bi i roboti izrađeni za proizvodnju i oni izrađeni za osobnu upotrebu trebali

podlijegati pravilima o sigurnosti proizvoda i zaštiti potrošača kojima se, ovisno o

slučaju, jamče minimalni standardi sigurnosti i u obzir uzima rizik od nesreća koje su

posljedica interakcije s ljudima ili rada u blizini ljudi; smatra da bi se u svakoj politici u

području robotike trebala razmotriti etička pitanja i pitanja povezana sa zaštitom

podataka, koja obuhvaćaju i podatke o trećoj strani te osobne podatke, građansku

odgovornost, obrazovanje i osposobljavanje te kibersigurnost;

9. ističe važnost privatnosti i sigurnosti dizajna u izradi robota te važnost pravila za

testiranje reakcija robota koja se provode u cilju zaštite potrošača;

10. ističe da se svaki put kada se predloži upotreba robota treba voditi računa o dostojanstvu

ljudskog bića, posebno u području zdravstvene skrbi;

11. smatra da je u području životno važne medicinske primjene, poput robotskih proteza,

nužno pružiti stalnu i održivu mogućnost održavanja i poboljšanja te, posebice,

softverskih ažuriranja kojima se ispravljaju nedostaci i slabe točke;

12. smatra da se u politikama država članica u području zapošljavanja i obrazovanja te

socijalnim politikama treba voditi više računa o utjecaju robotizacije; traži od Komisije

da teži uspostavi jedinstvenog regulatornog okvira i boljoj suradnji među državama

članicama; poziva države članice da ponovno osmisle okvire za osposobljavanje kako bi

se spriječio nedostatak stručnjaka u području informacijske i komunikacijske

tehnologije;

13. uviđa da se robotika i umjetna inteligencija sve više koriste u autonomnim vozilima,

poput autonomnih automobila i civilnih dronova; skreće pozornost na činjenicu da neke

države članice već provode zakonodavstvo u tom području ili pak razmatraju njegovo

donošenje, što bi moglo rezultirati mozaikom nacionalnih zakonodavstava kojim bi se

otežao razvoj autonomnih vozila; stoga poziva na donošenje niza jedinstvenih propisa

Unije u kojima će se postići prava ravnoteža između interesa korisnika, poduzeća i

ostalih zainteresiranih strana te čime će se izbjeći prekomjerna regulacija u području

robotike i robotskih sustava;

14. poziva na regulatornu suradnju u izmjeni određenih međunarodnih sporazuma poput

Bečke konvencije o cestovnom prometu od 8. studenoga 1968. i Haške konvencije o

prometnim nezgodama od 4. svibnja 1971.;

15. smatra da u slučaju autonomnih vozila možda ne postoji potreba za izmjenom pravne

situacije koja se odnosi na osiguranje, imajući u vidu da se postojeće prakse i odnosi

između operatera, proizvođača i osiguravatelja mogu na odgovarajući način nositi s

RR\1115573HR.docx 63/65 PE582.443v03-00

HR

uvođenjem novih tehnologija, što je već bio slučaj u prošlosti;

16. ističe da korištenje robotike u zdravstvu već predstavlja rastuće tržište, posebno kada je

riječ o telerobotskim kirurškim zahvatima, u kojima Europa prednjači; traži od Komisije

da osigura uvjete kojima će se omogućiti još veće korištenje tim praksama;

17. poziva Komisiju na povećanje financiranja međudisciplinarnih studija socijalnih

učinaka umjetne inteligencije i procesa strojnog učenja.

PE582.443v03-00 64/65 RR\1115573HR.docx

HR

REZULTAT KONAČNOG GLASOVANJA U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja 11.10.2016

Rezultat konačnog glasovanja +:

–:

0:

35

1

1

Zastupnici nazočni na konačnom

glasovanju

Catherine Bearder, Dita Charanzová, Carlos Coelho, Lara Comi, Anna

Maria Corazza Bildt, Daniel Dalton, Nicola Danti, Dennis de Jong,

Vicky Ford, Ildikó Gáll-Pelcz, Evelyne Gebhardt, Maria Grapini,

Sergio Gutiérrez Prieto, Robert Jarosław Iwaszkiewicz, Liisa

Jaakonsaari, Antonio López-Istúriz White, Marlene Mizzi, Eva

Paunova, Jiří Pospíšil, Virginie Rozière, Christel Schaldemose, Andreas

Schwab, Olga Sehnalová, Igor Šoltes, Ivan Štefanec, Catherine Stihler,

Richard Sulík, Róża Gräfin von Thun und Hohenstein, Mylène

Troszczynski, Mihai Ţurcanu, Anneleen Van Bossuyt, Marco Zullo

Zamjenici nazočni na konačnom

glasovanju

Birgit Collin-Langen, Morten Løkkegaard, Julia Reda, Marc Tarabella

Zamjenici nazočni na konačnom

glasovanju prema čl. 200. st. 2.

John Stuart Agnew

RR\1115573HR.docx 65/65 PE582.443v03-00

HR

REZULTAT KONAČNOG GLASOVANJA U NADLEŽNOM ODBORU

Datum usvajanja 12.1.2017

Rezultat konačnog glasovanja +:

–:

0:

17

2

2

Zastupnici nazočni na konačnom

glasovanju

Max Andersson, Joëlle Bergeron, Marie-Christine Boutonnet, Jean-

Marie Cavada, Therese Comodini Cachia, Mady Delvaux, Lidia Joanna

Geringer de Oedenberg, Mary Honeyball, Gilles Lebreton, António

Marinho e Pinto, Julia Reda, Evelyn Regner, József Szájer, Tadeusz

Zwiefka

Zamjenici nazočni na konačnom

glasovanju

Daniel Buda, Sergio Gaetano Cofferati, Angel Dzhambazki, Heidi

Hautala, Constance Le Grip, Victor Negrescu

Zamjenici nazočni na konačnom

glasovanju prema čl. 200. st. 2.

Eleonora Evi, Andrey Novakov