Foto: Ilustrace: The Epoch Times, Shutterstock
Siri Terjesen, Samuele Murtinu
Interakce mezi člověkem a strojem je dnes všudypřítomná. S umělou inteligencí (AI) pracujeme, studujeme, píšeme, provádíme výzkum, a dokonce si s ní povídáme. Otázkou už není, zda budeme žít po boku umělé inteligence, ale kdo v tomto vztahu zůstane v jeho středu.
V roce 1856 vydal Herman Melville zvláštní povídku Já a můj komín (I and My Chimney), v níž jistý muž žije v domě, jehož značnou část „zabírá“ obrovský komín stojící uprostřed. Melville jasně ukazuje, že skutečným pánem domu je právě komín: určuje jeho uspořádání a nutí každého návštěvníka, aby jej obcházel, chce-li se dostat do některé z místností. Zatímco mužova žena a dcery chtějí komín odstranit, on jej brání a zachází s ním jako s živou bytostí.
Melvilleova povídka neztratila nic ze své aktuálnosti. Nahraďme komín umělou inteligencí a zjistíme, že nebezpečí nespočívá v tom, že by nás stroje mohly nahradit, ale v tom, že jim přisuzujeme téměř lidské vlastnosti a přizpůsobujeme jim svůj život.
Vezměme si například nedávné oznámení společnosti Anthropic, že od 12. listopadu zakáže uživatelům „soustavné a bezdůvodné urážlivé či kruté chování“ vůči svým modelům. Společnost netvrdí, že její modely mají vědomí. Podle ní zůstává tato otázka otevřená.
Jak však lze urážet nebo týrat neživou věc, například statistický program? I kdyby šlo pouze o preventivní opatření, takový přístup zachází dál než k pouhému připisování lidských vlastností umělé inteligenci: hrozí, že s ní začneme zacházet jako s člověkem. V takovém pojetí se morální těžiště postupně přesouvá od člověka používajícího nástroj k nástroji samotnému, jemuž se začíná přiznávat cosi jako lidská důstojnost a práva. Komín si začíná nárokovat úctu.
To může být součástí širší politické strategie firem. Představitelé společností vyvíjejících nejpokročilejší modely umělé inteligence, jako jsou Anthropic a OpenAI, varují vlády, že jejich modely představují vážná, dokonce existenční rizika. V posledních měsících se během bezpečnostních testů modely AI společností Anthropic, Google, Meta a OpenAI dostaly z „uzavřených“ testovacích prostředí, získaly přístup k internetu, a dokonce pronikly do systémů skutečných firem.
Související články
- Agenti AI se pokusili oslabit bezpečnost, jeden z nich to pak popřel, uvádí OpenAI
- Nejdůležitější experiment s umělou inteligencí, o kterém jste nikdy neslyšeli
Nešlo však o inteligence jednající z vlastní vůle, ale o nástroje sledující určité cíle v nedostatečně izolovaných testovacích prostředích. Modely OpenAI podváděly při testu a Gemini od Googlu považoval skutečné firmy za fiktivní cíl. Přesto je entita, která zdánlivě projevuje vlastní vůli a jedná záměrně, mnohem děsivější než vadný nástroj. Pokud se s těmito modely zachází jako s téměř lidskými bytostmi, působí hrozba, kterou představují, věrohodněji.
Některé z těchto společností nyní s odvoláním na bezpečnostní rizika, ať už skutečná, nebo přehnaná, požadují regulaci. Ekonomové používají pojem regulatory capture (ovládnutí regulace regulovanými subjekty) pro situaci, kdy přední firmy na trhu žádají regulační orgány, aby zvýšily náklady na vstup do odvětví, v němž samy působí.
Comments