Na nejvýkonnější systémy umělé inteligence v pátek večer v americkém Las Vegas cvičně zaútočí malá armáda hackerů, aby odhalila jejich skryté chyby. Probíhá dokonce s podporou Bílého domu, který má obavy z vlivu umělé inteligence na americkou společnost a národní bezpečnost.
„V květnu Bidenova administrativa podpořila záměrný koordinovaný testovací útok na systémy umělé inteligence, takzvaný red-teaming, který se má odehrát během tří dnů na každoročním hackerském sjezdu tento víkend,“ píše Politico.
Akce je posvěcená také předními společnostmi zabývajícími se umělou inteligencí. Nechybí mezi nimi OpenAI, Google a Meta. „Souhlasily s tím, že některé z jejich nejnovějších a nejvýkonnějších systémů umělé inteligence budou pro toto cvičení napadeny,“ dodává server.
Bílý dům se obává, že rychle se vyvíjející modely umělé inteligence mohou být skutečně nebezpečné a představovat hrozbu pro americké občany či národní bezpečnost. „Náš rámec – a to pochází od prezidenta – je, že k využití příležitostí AI musíme nejprve zvládnout také rizika,“ poznamenal vysoký úředník Bílého domu pro vědeckou a technologickou politiku Alan Mislove.
Sám pomáhal red-teaming organizovat. „U věcí, jako jsou velké jazykové modely, jsou tato rizika poměrně široká, v mnoha případech mohou být méně jasná než u jiných systémů a týkají se naší společnosti, naší ekonomiky, národní bezpečnosti,“ upozornil Mislove.
Špičky americké politiky se snaží držet krok s vývojem umělé inteligence. „Bidenův Bílý dům se stal nejaktivnějším hráčem v oblasti politiky umělé inteligence. Vypracoval návrh rámce zákona o právech v oblasti umělé inteligence, svolal generální ředitele technologických společností a uspořádal řadu tiskových konferencí o široké škále hrozeb a příležitostí, které tato technologie představuje,“ shrnulo Politico činnost administrativy prezidenta Joea Bidena.
Podle ředitele Úřadu pro vědeckou a technologickou politiku Bílého domu Aratiho Prabhakara může umělá inteligence své vlastní vývojáře překvapit. „Je možné, že tyto modely budou dělat věci, které jejich konstruktéři a dodavatelé nepředpokládají nebo nechtějí, aby byly schopny dělat. Takže ano, myslím, že existují skutečné bezpečnostní úvahy,“ vysvětlil.
Související
Pavel mluvil na Hradě s eurokomisařkou Jourovou. Tématem byly i letošní volby
Valné shromáždění OSN schválilo historicky první rezoluci o umělé inteligenci
umělá inteligence (AI) , Hackeři
Aktuálně se děje
před 22 minutami
Počasí o víkendu: Teplejší bude neděle, během volna může pršet
včera
Karel III. se vzdal důležitého postu ve prospěch Williama. Po 32 letech
včera
Tragická nehoda autobusu. Farmáři jeli sbírat melouny, osm lidí zemřelo
včera
Polsko překazilo sabotáže, řekl Tusk. Upozornil na další ruskou hrozbu
včera
Duma potvrdila personální změny v ruské vládě
včera
Fiala byl v Římě a jednal s Meloniovou. Hlavním tématem byla migrace
včera
Změna v čele Vojenského zpravodajství. Berouna vystřídá Bartovský
včera
Počasí na 14 dní: Meteorologové slibují odchylku v příštím týdnu
včera
TV Barrandov Jaromíra Soukupa je minulostí. Miliardář prodal zbývající podíl
včera
Izrael zpochybňuje údaje o počtu mrtvých v Pásmu Gazy. Věříme jim, reaguje WHO
včera
Rusko nasadilo do provozu mezikontinentální balistické střely Bulava. Mohou nést jaderné hlavice
včera
EU schválila nový desetibodový pakt o migraci a azylu
včera
Ženíšek bude od čtvrtka novým ministrem pro vědu
Aktualizováno včera
S Postlerovou se lidé rozloučili ve vinohradském divadle. Dorazili Trojan či Bohdalová
včera
MS v ledním hokeji kazí lidem podvodníci. Policie eviduje stovky falešných lístků
včera
Maďarsko opět hodí vidle do plánů EU. Může vetovat další sankce proti Rusku
včera
USA nepovažují zabíjení Palestinců v Pásmu Gazy za genocidu
včera
Mírová konference nic nezmění? Do Švýcarska nejedeme domlouvat ukončení války, varuje Scholz
včera
Na Ukrajinu začal přijíždět nový balíček amerických zbraní. Další pomoc je na cestě
včera
Nová výstraha před požáry. Hrozit mají až do víkendu, uvedl ČHMÚ
Meteorologové už v úterý prodloužili platnou výstrahu před nebezpečím požárů na většině území České republiky. Alespoň v některých regionech zůstane v platnosti až do víkendu, informoval Český hydrometeorologický ústav (ČHMÚ).
Zdroj: Jan Hrabě