Na nejvýkonnější systémy umělé inteligence v pátek večer v americkém Las Vegas cvičně zaútočí malá armáda hackerů, aby odhalila jejich skryté chyby. Probíhá dokonce s podporou Bílého domu, který má obavy z vlivu umělé inteligence na americkou společnost a národní bezpečnost.
„V květnu Bidenova administrativa podpořila záměrný koordinovaný testovací útok na systémy umělé inteligence, takzvaný red-teaming, který se má odehrát během tří dnů na každoročním hackerském sjezdu tento víkend,“ píše Politico.
Akce je posvěcená také předními společnostmi zabývajícími se umělou inteligencí. Nechybí mezi nimi OpenAI, Google a Meta. „Souhlasily s tím, že některé z jejich nejnovějších a nejvýkonnějších systémů umělé inteligence budou pro toto cvičení napadeny,“ dodává server.
Bílý dům se obává, že rychle se vyvíjející modely umělé inteligence mohou být skutečně nebezpečné a představovat hrozbu pro americké občany či národní bezpečnost. „Náš rámec – a to pochází od prezidenta – je, že k využití příležitostí AI musíme nejprve zvládnout také rizika,“ poznamenal vysoký úředník Bílého domu pro vědeckou a technologickou politiku Alan Mislove.
Sám pomáhal red-teaming organizovat. „U věcí, jako jsou velké jazykové modely, jsou tato rizika poměrně široká, v mnoha případech mohou být méně jasná než u jiných systémů a týkají se naší společnosti, naší ekonomiky, národní bezpečnosti,“ upozornil Mislove.
Špičky americké politiky se snaží držet krok s vývojem umělé inteligence. „Bidenův Bílý dům se stal nejaktivnějším hráčem v oblasti politiky umělé inteligence. Vypracoval návrh rámce zákona o právech v oblasti umělé inteligence, svolal generální ředitele technologických společností a uspořádal řadu tiskových konferencí o široké škále hrozeb a příležitostí, které tato technologie představuje,“ shrnulo Politico činnost administrativy prezidenta Joea Bidena.
Podle ředitele Úřadu pro vědeckou a technologickou politiku Bílého domu Aratiho Prabhakara může umělá inteligence své vlastní vývojáře překvapit. „Je možné, že tyto modely budou dělat věci, které jejich konstruktéři a dodavatelé nepředpokládají nebo nechtějí, aby byly schopny dělat. Takže ano, myslím, že existují skutečné bezpečnostní úvahy,“ vysvětlil.
Související
Pavel mluvil na Hradě s eurokomisařkou Jourovou. Tématem byly i letošní volby
Valné shromáždění OSN schválilo historicky první rezoluci o umělé inteligenci
umělá inteligence (AI) , Hackeři
Aktuálně se děje
před 48 minutami
Drtivý úder střelami ATACMS proti Rusům. Ukrajinci zničili stíhačky a palivová zařízení, dokládají satelitní snímky
před 1 hodinou
Trump opět vystoupí na zasedání NRA, asociace držitelů zbraní v USA
před 2 hodinami
Medvěd Wojtek. Zvíře, které před 80 lety pomohlo vybojovat vítězství v bitvě o Monte Cassino
před 3 hodinami
Počasí: Na Ústecku se možná vyskytlo tornádo, upozornil ČHMÚ
před 3 hodinami
Válka na Ukrajině: Rusové tvrdí, že dobyli další obec u Charkova
před 3 hodinami
Dosud neporažené Švýcarsko si smlslo na neškodném Dánsku, Švédové rozhodli třemi góly během 26 vteřin
před 4 hodinami
Předání Gazy palestinské samosprávě paradoxně zhoršilo kvalitu života Palestinců, uvádí Záhora
před 4 hodinami
Nečas myslel na přílet do Prahy hned po skončení v play-off NHL. Pohmožděná žebra vyloučil
před 5 hodinami
Francie navrhla olympijský mír. Zelenskyj řekl Macronovi, co si o tom myslí
před 5 hodinami
Po Ficovi je v ohrožení další evropský premiér. Tuskovi vyhrožovali smrtí
Aktualizováno před 5 hodinami
Na Slovensku se začalo rozhodovat o osudu atentátníka na Fica
před 6 hodinami
Problémy lodi Starliner pokračují. Start k ISS se znovu odkládá
před 7 hodinami
Příjezd Pastrňáka se Zachou by národní tým přivítal. Chystá se telefonát
před 7 hodinami
Ficův stav se zásadně nemění. Kaliňák ale zmínil pozitivní prognózu
před 7 hodinami
V sobotu národní tým posílí ze zámoří Nečas. Do Prahy by mohli přijet také Pastrňák se Zachou
před 8 hodinami
Ukrajinci prchají z Charkovské oblasti před ruskou armádou. Jsou jich tisíce
před 9 hodinami
Aktuální počasí: Bouřková předpověď na víkend. Hrozí dnes i zítra
před 10 hodinami
Putin předstírá zájem o mírová jednání. Jde mu o jediné, tvrdí analytici z ISW
před 10 hodinami
Britové i po vyrovnaném duelu s Dánskem stále bez bodu. Němci opět nastříleli osm branek
před 11 hodinami
Fiala ocenil reakci odborů. Vyhlíží návrat k jednacímu stolu
Premiér Petr Fiala (ODS) ocenil reakci odborů, které ve ve světle událostí na Slovensku zrušily plánovaný protivládní protest. Českomoravská konfederace odborových svazů (ČMKOS) to oznámila ve čtvrtek, protestní akce měla proběhnout v úterý 21. května. Důvody pro svolání demonstrace však podle zástupců zaměstnanců trvají.
Zdroj: Jan Hrabě