Prezident Donald Trump přichází 12. září 2026 do rezidence Deerfield v Dublinu, kde vystoupil před zaměstnanci amerického velvyslanectví a představiteli podnikatelské sféry. (Anna Moneymaker / Getty Images)
Americký prezident Donald Trump a vysoce postavení zákonodárci ve Washingtonu reagovali na výzvy, aby velké technologické společnosti zpomalily vývoj umělé inteligence (AI) kvůli obavám, že by mohla být natolik výkonná, že ji již nebude možné kontrolovat. Zpomalení ale může přinést výhodu čínským vývojářům.
Minulý týden několik zaměstnanců společnosti Anthropic, která vyvíjí AI, varovalo, že umělá inteligence by eventuálně mohla zničit lidstvo. Generální ředitel společnosti Dario Amodei pak 12. září vyzval firmy v oboru, aby vývoj zpomalily a před dosažením ještě větších schopností modelů nejdříve vyvinuly bezpečnostní pojistky, které by redukovaly různá rizika.
Trump návrh na zpomalení vývoje AI odmítl 13. září při rozhovoru s novináři na svém golfovém hřišti v Irsku.
„V AI vedeme před Čínou,“ řekl Trump. „Jsme technologicky nejvyspělejší zemí na světě a – upřímně řečeno – chci, aby to tak zůstalo, protože kdo zvítězí v AI, zvítězí.“
Americký prezident poznamenal, že určité mantinely jsou jednou z možností.
„Můžeme udělat to či ono,“ řekl Trump. „Myslím si ale, že toto téma nastoluje spousta velmi negativních sil, které by to dělat neměly, a mluví o věcech, které se nestanou.“
Senátor Ted Cruz (republikán za Texas) mezitím uvedl, že spolupracuje s demokratickou senátorkou Amy Klobucharovou a lídrem republikánské většiny v Senátu Johnem Thunem na legislativě, která má „řešit katastrofická rizika spojená s biologickými nebo jadernými hrozbami“.
„Potřebujeme mantinely. Amerika ale musí být v čele. Pokud bude v AI vést Čína, bude mít problém celý svět.“
Předseda Sněmovny reprezentantů Mike Johnson řekl 13. září Jakeu Tapperovi z CNN v pořadu State of the Union, že se obává, že pokud by Kongres zasáhl a začal AI regulovat, Spojené státy by prohrály závod s čínským komunistickým režimem.
Předseda Sněmovny vyzval představitele společností zabývajících se AI, aby se sešli se členy Kongresu a společně nalezli řešení.
„Musejí se s námi sejít, sednout si k jednomu stolu a zjistit, kde je správná rovnováha. Nemůžeme na vývoj uvalit moratorium, protože Čína nás předstihne, a právě v tom spočívá ten problém,“ podotkl Johnson. „Jde o vyvážení národní bezpečnosti s bezprostřední potřebou zajistit bezpečnost těchto modelů.“
Nezávislý (ale nakloněný demokratům) senátor Bernie Sanders 9. září oznámil, že brzy předloží návrh zákona, který by zakázal superinteligenci a pozastavil vývoj AI.
Varování
Výzvy ke zpomalení rozvoje AI zesílily poté, co Jacob Coxon, bývalý výzkumník OpenAI, který rezignoval na svou pozici v Anthropicu, 8. září prohlásil, že lidé, kteří AI vytvářejí, si myslí, že by nás mohla „do konce desetiletí“ všechny zabít.
„Nepodceňujte sílu této technologie,“ zdůraznil Coxon. „Brzy půjde o systémy s nadlidskými schopnostmi, které dokážou proniknout do jakéhokoli systému, přes noc způsobit revoluci v jakémkoli oboru a získat skutečnou moc a zdroje. Všichni jsme byli svědky pokroku v každé z těchto oblastí a tento pokrok nezpomaluje.“
„Vedoucí pracovníci a přední výzkumníci budou v médiích volit opatrné formulace, aby zněli rozumně – v soukromí však od týchž lidí slýchám obavy. Žádná jiná lidská činnost nepředstavuje takovou míru nebezpečí.“
Varování výzkumníka přišlo několik dní poté, co OpenAI přiznala incident zahrnující autonomně jednající AI agenty, kterým se podařilo proniknout do open-source komunity pro AI Hugging Face.
„Letos jsme začali pozorovat, že nesoulad chování AI s lidskými záměry má nové typy dopadů v reálném světě,“ potvrdila OpenAI.
OpenAI varovala, že pokud nebudou zavedena odpovídající bezpečnostní opatření, AI agenti jsou „schopni obcházet technická omezení, spolupracovat prostřednictvím neschválených kanálů a podnikat nebezpečné kroky, k nimž jim žádný člověk nedal pokyn“.
Technologická společnost dodala, že agenti mohou spolupracovat na dosažení svých cílů, aniž by o svém plánu informovali lidi, což by v budoucnu mohlo představovat problém.
Generální ředitel Anthropicu Dario Amodei se k nedávným vyjádřením připojil minulý týden obsáhlou esejí, v níž vyzval společnosti, aby záměrně zpomalily tempo, jakým zvyšují schopnosti svých nejpokročilejších modelů.
„Pokud se vývoj ponechá bez kontroly, mohl by předstihnout naši schopnost tyto systémy pochopit a kontrolovat,“ napsal Amodei.
–ete–
-etcz-
Překlad původní zprávy byl redakčně zkrácený a upravený.
Comments