Vznikne odborná skupina zaměřená na odpovědnost v souvislosti s novými technologiemi a umělou inteligencí

V první polovině března položila Evropská komise základy strategie umělé inteligence, když ustanovila odbornou skupinu, jež má dát dohromady širokou alianci zainteresovaných subjektů. Nezávislý poradní orgán EK s názvem Evropská skupina pro etiku ve vědě a nových technologiích (EGE) zároveň vydala stanovisko k umělé inteligenci, robotice a autonomním systémům.

Komisař pro výzkum, vědu a inovace Carlos Moedas uvedl, že umělá inteligence se prudce rozvinula – z digitální technologie pro zasvěcené se stala klíčová technologie s tržním potenciálem. Jak jsou ale technologické změny ošetřeny z etického hlediska? Spolu s tím přichází otázka, v jaké společnosti chceme žít. Základem odpovědi je vydané stanovisko. Nové technologie jako umělá inteligence, pokročilá robotika a internet věcí představují obrovskou příležitost pro dopravu, zdravotnictví, zemědělství, výrobu a další. Zároveň však mohou představovat problém v souvislosti s odpovědností, což je důvodem, proč EK na toto téma iniciovala diskusi. Ve stanovisku jsou zmíněny etické principy jako lidská důstojnost, autonomie (otázka lidské odpovědnosti a kontroly autonomních systémů), odpovědnost, spravedlnost, rovnost a solidarita, demokracie, vláda práva a odpovědnosti, bezpečnost a integrita, ochrana údajů a soukromí a udržitelnost.

Vývoj a nástup špičkových technologií a softwaru, které mohou fungovat stále více nezávisle na člověku, vznáší řadu důležitých morálních otázek:

-       Bezpečnost a ochrana před škodami, zmírňování rizik: jak učinit svět, propojený umělou inteligencí a autonomními zařízeními, bezpečným, a jak posuzovat možná rizika?

-       Morální odpovědnost lidí: kde se v komplexu společensko-technických systémů s pokročilou umělou inteligencí a robotikou nachází morálně odpovědný úřad? Komu přísluší morální odpovědnost? Dává smysl hovořit o „sdíleném řízení“ a „sdílené odpovědnosti“ mezi lidmi a inteligentními stroji?

-       Správa, řízení, regulace, vývoj, kontrola, monitoring, testování a certifikace: jak by měly být naše instituce a zákony transformovány tak, aby sloužily pro dobro lidí a společnosti a učinily společnost bezpečnou s ohledem na technologie?

-       Demokratické rozhodování včetně rozhodování o institucích, politice a hodnotách souvisejících s výše uvedenými otázkami

-       Vysvětlitelnost a transparentnost umělé inteligence a autonomních systémů: jakým hodnotám tyto systémy slouží? Na základě čeho je vytvářena politika a vyvíjeny stroje? Kolem jakých hodnot chceme rozvíjet společnost?

Úkolem skupiny bude nejprve shromáždit výstupy práce dalších expertů v oblasti umělé inteligence, například strategické skupiny na vysoké úrovni pro průmyslové technologie nebo odborné skupiny pro odpovědnost a nové technologie, a na základě výsledků jejich práce dále stavět. Skupina bude Evropské komisi pomáhat v analyzování výzev souvisejících s již fungujícím rámcem odpovědnosti. Bude fungovat ve dvou útvarech – útvaru odpovědnosti za výrobek a útvaru nových technologií. Hlavním úkolem vznikající odborné skupiny pak bude poskytnout Evropské komisi rozbor použitelnosti směrnice odpovědnosti za vadné výrobky vztahující se na tradiční produkty, nové technologie a nové společenské změny, a s ohledem na posouzení stávajících programů odpovědnosti pomáhat EK při vytváření zásad, jež mohou sloužit jako směrnice pro možné přizpůsobení příslušných zákonů na unijní a národní úrovni ve vztahu k novým technologiím.

Zájemci o práci ve skupině expertů se mohou hlásit do 30. dubna letošního roku a skupina bude na základě toho sestavena do května.