USA, Velká Británie a tucet dalších zemí představily první podrobnou mezinárodní dohodu o tom, jak zajistit bezpečnost umělé inteligence
Spojené státy, Velká Británie a více než tucet dalších zemí v neděli představily první podrobnou mezinárodní dohodu o tom, jak zajistit bezpečnost umělé inteligence před nepoctivými aktéry.
Ve dvacetistránkovém dokumentu, který byl v neděli představen, se 18 zemí shodlo, že společnosti, které navrhují a používají umělou inteligenci, ji musí vyvíjet a nasazovat tak, aby zákazníci a širší veřejnost byli v bezpečí před zneužitím. Dohoda je nezávazná a nese převážně obecná doporučení, jako je sledování systémů AI, zda nedochází k jejich zneužití, ochrana dat před manipulací a prověřování dodavatelů softwaru, uvádí deník The Guardian.
Přesto ředitelka americké Agentury pro kybernetickou bezpečnost a bezpečnost infrastruktury Jen Easterlyová uvedla, že je důležité, že se tolik zemí přihlásilo k myšlence, že systémy AI musí mít na prvním místě bezpečnost.
US, UK and a dozen more countries unveil pact to make AI ‘secure by design’ https://t.co/tTwDgkYWF8
— Guardian Tech (@guardiantech) November 27, 2023
Kromě Spojených států a Velké Británie se k novým směrnicím připojilo 18 zemí, mezi nimi Německo, Itálie, Česká republika, Estonsko, Polsko, Austrálie, Chile, Izrael, Nigérie a Singapur.
Rámec se zabývá otázkami, jak zabránit tomu, aby technologie umělé inteligence byla zneužita hackery, a obsahuje doporučení, jako je například zveřejňování modelů až po náležitém bezpečnostním testování.
Neřeší však ožehavé otázky týkající se vhodného využití umělé inteligence nebo způsobu shromažďování údajů, které jsou zdrojem těchto modelů. Vzestup umělé inteligence vyvolává řadu obav, včetně obav, že by mohla být využita k narušení demokratického procesu, k podvodům nebo k dramatické ztrátě pracovních míst, a dalších škod.
Evropa má v oblasti regulace AI náskok před Spojenými státy a tamní zákonodárci připravují pravidla týkající se AI. Francie, Německo a Itálie také nedávno dosáhly dohody o tom, jak by měla být umělá inteligence regulována, která podporuje „povinnou samoregulaci prostřednictvím kodexů chování“ pro tzv. základní modely umělé inteligence, které jsou navrženy tak, aby produkovaly širokou škálu výstupů, uvádí portál The Verge.
Bidenova administrativa naléhala na zákonodárce, aby regulovali umělou inteligenci, ale polarizovaný Kongres USA udělal jen malý pokrok ve schválení účinné regulace. Bílý dům se snažil snížit rizika AI pro spotřebitele, pracovníky a menšinové skupiny a zároveň posílit národní bezpečnost novým výkonným nařízením v říjnu.
zdroj: The Guardian, The Verge
