Európa ako líder na poli dôveryhodnej umelej inteligencie

Autor Európska komisia február 2020 -

Potrebujeme jasné pravidlá, ktorými sa budú regulovať vysoko rizikové systémy umelej inteligencie bez toho, aby sa neprimerane zaťažovali tie menej rizikové.

Európa má všetky predpoklady, aby sa stala svetovým lídrom v oblasti systémov umelej inteligencie, ktoré možno bezpečne používať a uplatňovať.

Máme vynikajúce výskumné strediská, bezpečné digitálne systémy a silné postavenie v oblasti robotiky, ako aj sektoroch konkurencieschopnej výroby a služieb – od automobilového priemyslu cez energetiku až po zdravotnú starostlivosť a poľnohospodárstvo.

Biela kniha UI

Komisia predstavila svoju bielu knihu, v ktorej plánuje vytvorenie rámca pre dôveryhodnú umelú inteligenciu založenú na excelentnosti a dôvere. Účelom je v partnerstve so súkromným a verejným sektorom mobilizovať zdroje v celom hodnotovom reťazci a vytvoriť správne stimuly na urýchlenie zavádzania umelej inteligencie, a to aj v prostredí malých a stredných podnikov.

Zahŕňa to spoluprácu s členskými štátmi a vedeckou obcou pri lákaní a udržaní nových talentov.

Systémy umelej inteligencie môžu byť komplexné a v určitých súvislostiach spojené s nezanedbateľným rizikom, preto je mimoriadne dôležité budovať dôveru. Potrebujeme jasné pravidlá, ktorými sa budú regulovať vysoko rizikové systémy umelej inteligencie bez toho, aby sa neprimerane zaťažovali tie menej rizikové.

V platnosti zostávajú prísne pravidlá EÚ v oblasti ochrany spotrebiteľa, ktoré riešia nekalé obchodné praktiky a chránia osobné údaje a súkromie.

Ľudský dohľad nad umelou inteligenciou

Systémy umelej inteligencie vo vysoko rizikových prípadoch (zdravotníctvo, práca polície či doprava) by mali byť transparentné, vysledovateľné a so zárukou ľudského dohľadu. Verejné orgány by mali mať možnosť testovať a certifikovať údaje používané algoritmami rovnako, ako kontrolujú kozmetiku, automobily či hračky.

Pri vysoko rizikových systémoch potrebujeme na ich riadne fungovanie neskreslené údaje, aby sme mohli zabezpečiť dodržiavanie základných práv, a najmä nediskrimináciu.

V súčasnosti je rozpoznávanie tváre ako metóda na diaľkovú biometrickú identifikáciu vo všeobecnosti zakázané a možno ho využiť len vo výnimočných, opodstatnených a primeraných prípadoch, a to pod podmienkou uplatnenia záruk a na základe práva EÚ alebo vnútroštátneho práva. Komisia by však chcela iniciovať širokú diskusiu o tom, aké okolnosti, ak vôbec nejaké, by prípadne mohli opodstatniť výnimky v budúcnosti.

Pri aplikáciách umelej inteligencie s nižším rizikom, ktoré spĺňajú prísnejšie normy, Komisia navrhuje systém dobrovoľného označovania.

Na európskom trhu sú vítané všetky aplikácie umelej inteligencie, pokiaľ sú v súlade s pravidlami EÚ.

Európa ako líder dátovej ekonomiky

Množstvo údajov generovaných podnikmi a verejnými subjektmi sa neustále zvyšuje. Ďalšia vlna priemyselných údajov výrazne zmení našu výrobu, spotrebu a život. Prevažná časť ich potenciálu však zostáva nevyužitá.

Európa má všetky predpoklady, aby sa stala lídrom v tomto novom dátovom hospodárstve: najsilnejšiu priemyselnú základňu sveta, pričom zásadným prvkom jej priemyselnej štruktúry sú malé a stredné podniky, technológie, zručnosti a teraz aj jasnú víziu.

Cieľom európskej dátovej stratégie je zabezpečiť, aby sa EÚ stala vzorom a lídrom spoločnosti, ktorú posilňujú údaje. Preto plánuje vytvoriť skutočný európsky dátový priestor, jednotný trh s údajmi, na ktorom bude možné uvoľniť nevyužité údaje, ktoré sa tak dostanú do voľného obehu v Európskej únii a vo všetkých sektoroch v prospech podnikov, výskumníkov a verejných správ.

Občania, podniky a organizácie by sa mali posilniť, aby mohli prijímať lepšie rozhodnutia založené na poznatkoch získaných z iných ako osobných údajov. Tieto údaje by mali byť dostupné pre všetkých, či už verejné alebo súkromné subjekty, začínajúce alebo veľké podniky.

Regulácie pre toky údajov

Na dosiahnutie tohto cieľa Komisia najprv navrhne vytvorenie správneho regulačného rámca týkajúceho sa správy údajov, prístupu a opätovného použitia medzi podnikmi, podnikmi a verejnou správou a v rámci správnych orgánov.

Po druhé, cieľom Komisie je podporiť rozvoj technologických systémov a novej generácie infraštruktúr, ktoré umožnia EÚ a všetkým aktérom využiť príležitosti dátového hospodárstva. Prispeje k investíciám do európskych projektov s veľkým vplyvom v oblasti európskych dátových priestorov a dôveryhodných a energeticky efektívnych cloudových infraštruktúr.

Napokon naštartuje sektorové špecifické činnosti s cieľom vybudovať európske dátové priestory, napríklad v oblasti priemyselnej výroby, zelenej dohody, mobility a zdravia.

Nová stratégia

Komisia predstavila svoje myšlienky a opatrenia na digitálnu transformáciu, ktorá bude prínosom pre všetkých a odzrkadľuje to najlepšie, čo Európa ponúka: otvorenosť, spravodlivosť, rozmanitosť, demokraciu a sebavedomie.

Predstavuje európsku spoločnosť využívajúcu digitálne riešenia, ktoré stavajú ľudí na prvé miesto, otvára nové možnosti pre podniky a podporuje rozvoj dôveryhodných technológií. Jej cieľom je podporiť otvorenú a demokratickú spoločnosť a dynamické a udržateľné hospodárstvo.

Podľa predsedníčky Európskej komisie Ursuly von der Leyenovej ambície EÚ v tejto oblasti „zahŕňajú všetko od kybernetickej bezpečnosti po kritické infraštruktúry, od digitálneho vzdelávania po zručnosti, od demokracie po médiá.“

Výkonná podpredsedníčka pre „Európu pripravenú na digitálny vek“ Margarethe Vestagerová doplnila: „Chceme, aby každý občan, každý zamestnanec, každý podnik mal spravodlivú šancu využívať výhody digitalizácie, či už to znamená vyššiu bezpečnosť pri šoférovaní, menšie znečistenie vďaka prepojeným automobilom alebo dokonca záchranu životov vďaka zobrazovacím metódam využívajúcim umelú inteligenciu, ktoré umožňujú lekárom zistiť ochorenia skôr ako kedykoľvek predtým.“

Komisár pre vnútorný trh Thierry Breton dodal: „Európa má všetko, čo potrebuje, aby viedla v big data pretekoch a zachovala si technologickú suverenitu, vedúce postavenie priemyslu a hospodársku konkurencieschopnosť v prospech európskych spotrebiteľov.“

Ďalšie kroky

Ako si Komisia vytýčila za cieľ v prezentovanej stratégii, v priebehu tohto roka predstaví predpis o digitálnych službách a európsky akčný plán pre demokraciu, navrhne preskúmanie nariadenia eIDAS a vytvorí spoločnú kybernetickú jednotku na posilnenie kybernetickej bezpečnosti.

Európa bude zároveň ďalej rozvíjať aliancie so svetovými partnermi, pričom využije svoje regulačné právomoci, budovanie kapacít, diplomaciu a financie na podporu európskeho modelu digitalizácie.

Biela kniha o umelej inteligencii je teraz predmetom verejnej konzultácie, ktorá bude prebiehať do 19. mája 2020.

Súvislosti

V roku 2018 Komisia prvý raz predstavila stratégiu pre umelú inteligenciu a s členskými štátmi dohodla koordinovaný plán. Dnes predstavila rámec pre umelú inteligenciu, ktorý vychádza aj z práce expertnej skupiny na vysokej úrovni pre umelú inteligenciu. Tá v apríli 2019 predstavila svoje etické usmernenia pre dôveryhodnú umelú inteligenciu.

Komisia od roku 2014 vykonala celý rad opatrení zameraných na uľahčenie rozvoja dátovo agilného hospodárstva: prijala napríklad nariadenie o voľnom toku iných ako osobných údajovakt o kybernetickej bezpečnostismernicu o otvorených údajoch a všeobecné nariadenie o ochrane údajov.

Európska komisia

19. 2. 2020

 

Partneri