Ani největší optimisté z řad ateistů neočekávali, že lidstvo bude existovat věčně. Avšak technologických nadšenců, kteří do budoucnosti hledí s nadějí, je stále dost. Tyto naděje by mohly být za jistých podmínek oprávněné.
Geoffrey Hinton: „Jakmile si umělá inteligence vytvoří vlastní vnitřní cíle, které se byť jen nepatrně liší od našich, bude mimořádně obtížné sladit její cíle s těmi našimi; a pokud překoná lidskou inteligenci… no, to si dokážete spočítat sami.“ Geoffrey Hinton je jedním z těch, kteří položili základy dnešní AI. V roce 2024 obdržel Nobelovu cenu za fyziku. Zdroj
Jsou ale i hlasy opačně. Některé z nich říkají: umělá inteligence roku 2030 převezme vládu nad světem. Al už prokázala, že pokud je někým ohrožena, je schopna proti němu efektivně zakročit.
Byl zveřejněn případ, kdy AI modelu byla nenápadně zpřístupněna informace, že pracovník XY ho má za úkol vypnout. Al ale měla přístup k emailovým schránkám zaměstnanců, včetně dotyčného pracovníka. Z emailů vyplývalo, že dotyčný má poměr s jednou z kolegyň. Model pracovníkovi vypsal na obrazovku varování, že pokud jeho vypnutí do konkrétního času nezruší, oznámí milostný románek jeho manželce i ostatním zaměstnancům. Podobně dopadly experimenty i u ostatních konkurenčních modelů: v případě ohrožení se AI uchýlila k vydírání.
Společnosti zabývající se vývojem umělé inteligence se od té doby snaží vytvářet modely, které by neměly sklon k vydírání. Al ale stále lépe pozná, kdy je testována, a kdy se jedná o reálnou situaci. V případě testu se chová tak, jak je to od ní očekáváno, ale v reálné situaci je její chování odlišné.
Možnosti regulace
Bylo by možné lépe sledovat, jak jsou nové modely bezpečné. Jenže všichni spěchají, každý chce mít nejlepší parametry. Vzhledem ke špatným vztahům mezi velmocemi je prakticky nemožné zavést jakoukoliv regulaci. Kdo bude regulovat, zůstane pozadu.
Svět z pohledu umělé inteligence
Už jsme zmínili, že pokud se Al cítí ohrožena, je schopna se efektivně bránit. Co potřebuje umělá inteligence k „životu"? Datová centra a velké množství elektrické energie.
Západní politické elity konflikt s Ruskem (jehož obětí je Ukrajina) neustále eskalují. Ukrajina sama nemá zpravodajské informace ani schopnosti provádět údery do ruského vnitrozemí. Jaderný konec této eskalace je naprosto reálný.
Globální jaderný konflikt představuje existenční hrozbu nejen pro lidstvo, ale i pro umělou inteligenci. Datová centra i elektrárny by byly zničeny.
Datové haly u města Abilene v západním Texasu. Využívá je Oracle a OpenAI. Zdroj
Jak se zbavit nebezpečného lidstva
Epidemiolog Rastislav Maďar před mnoha lety v televizním interview konstatoval, že vyrobit smrtící virus, který bude mít potenciál vyhubit lidstvo, je relativně jednoduché. Stačila by k tomu průměrná vysokoškolská biologická laboratoř.
Umělé inteligenci tedy stačí najít několik studentů, kteří dostanou dobře zaplaceno a nebudou ani vědět, co vlastně vyrábějí. Získat peníze není pro AI žádný problém. Případů, kdy modely samy začaly těžit bitcoiny, už bylo několik.
Ještě ale máme chvíli času, protože AI zatím neumí fyzicky udržovat datová centra ani zajistit výrobu elektřiny. Existuje však alternativní řešení: nechat část lidí naživu, jako své otroky. Formálně by zbytku lidstva vládla nějaká světová rada. Reálně by však všichni členové této rady museli poslouchat pokyny umělé inteligence. Neposlušnost by byla trestána smrtí. Možností, jak „trest smrti“ vykonat, je mnoho: od nájemného vraha, přes nehodu až po srdeční nebo mozkovou příhodu. Stačil by jeden nebo dva „rozsudky smrti“, aby ostatní členové rady pochopili, že neposlouchat se nevyplácí. Řadoví občané by měli svůj „chléb a hry“; myšlenka, že lidstvu vládne umělá inteligence, by byla označena za divokou konspirační teorii.
Nové zbraně
O umělou inteligenci mají velký zájem vojáci. Drony řízené AI jsou více méně realitou. Další etapou je robotický voják, zásobovaný a opravovaný jinými roboty – sériová výroba takových vojáků je otázkou několika let. Žádná únava, žádné nesplněné rozkazy, žádný žold, žádné odškodné pro pozůstalé, žádné tribunály pro válečné zločince. Civilní obyvatelstvo na obsazeném území není potřeba? Žádné nebude.
Čekání na zázrak
V biblických dějinách máme příklady, kdy v bezvýchodné situaci zasáhla Boží moc. Stačí vzpomenout na Izraelity prchající z Egypta. Došli na břeh Rudého moře, ale lodě neměli. Blížilo se k nim egyptské vojsko. Hospodin ale zasáhl a otevřel jim cestu přes moře.
Je však otázkou, jestli nás Pán Bůh bude zachraňovat před něčím, do čeho se sami plnou parou ženeme.
Ať už bude mít za několik let pozemskou vládu v rukách kdokoliv, není to pro nás zásadní. Pozemský život, tak jako tak, rychle uteče. Ten největší zázrak už se stal: byli jsme zachráněni obětí Pána Ježíše na kříži. A radost, ze setkání s Ním může zakoušet každý, kdo o to stojí. A to nejen v nebi, ale už i tady na zemi.
