Umělá inteligence (AI) je dnes prakticky všude kolem nás. Současně s jejím rozvojem se ale objevují i hlasy, které varují před jejími riziky. Jeden z prvních legislativních souborů pro používání AI nyní vzniká v Evropské unii, zaobírají se jimi ale i jinde. Ve Washingtonu se nyní v Bílém domě sešli špičky velkých technologických firem a společně s prezidentem Bidenem se shodli na setu pravidel týkajících se AI.
Těžké váhy v Bílém domě
Zástupci firem Amazon, Anthropic, Google, Inflection, Meta (ta nyní oznámila svoji vlastní verzi umělé inteligence, Llama 2), Microsoft, a OpenAI jednali s prezidentem Joe Bidenem o tom, jakým směrem se vývoj umělé inteligence ubírá a také o tom, jaká jsou rizika této úžasné technologie.
Prezident Joe Biden prohlásil, že „musíme mít jasné oči a být ostražití vůči hrozbám, které vznikají v souvislosti s novými technologiemi a které mohou – nemusí, ale mohou – ohrozit naši demokracii a naše hodnoty“. Měl přitom na mysli jak rizika dlouhodobá, tak rizika spojená s prezidentskými volbami, které se ve Spojených státech konají již příští rok.
Sada pravidel pro AI
V centru pozornosti je především riziko toho, že lidé nebudou umět rozeznat dílo umělé inteligence a skutečného člověka. Umělá inteligenci bude vždy přidávat ke svým výtvorům vodoznak. Kromě toho bude každý nový nástroj testován jak interně, tak externě právě s ohledem na bezpečnost.
Schopnosti i omezení každého nástroje budou veřejně popsané a relevantní informace budou muset být pravidelně zveřejňovány. Velmi důležité je, že každý AI nástroj bude sledován a analyzován i s ohledem na případné projevy diskriminace či zneužívání osobních informací.
Zatím dobrovolné…
Zmíněné firmy se prozatím zavázaly k dobrovolnému dodržování souboru pravidel, podle prohlášení mluvčího Bílého domu již je ale v přípravě i závazné exekutivní nařízení. A o víc, prezident Biden a jeho administrativa chce pracovat na tvorbě mezinárodních pravidel pro vývoj i používání AI. USA se tak připojují v Evropské unii ve snaze nalézt rámec pro minimalizaci rizik spojených s umělou inteligencí.
Zdroje informací: https://www.bbc.com/news/technology-66271429
