Nejen s humorem.
Generální ředitel Anthropic napsal esej, která se podobá prohlášení o nejbližších perspektivách AI.**)
Říká, že navrhujeme a vytváříme superkonstrukce, které jsou podobné celé zemi géniů v datovém centru. Každá z nich je chytřejší než nejchytřejší člověk na Zemi, pracuje rychleji, sami nechápeme, jak je to možné, ale pochopte, hlavní je, aby se to nedostalo do rukou Číny. Proto musíme věnovat všechny zdroje. Neboť přichází, už za rok se objeví nějaká mocná AI, kterou ani Dario (generální ředitel) nedokáže popsat. Ale on je „uvnitř pokroku a cítí tikání hodin“, to znamená: -„ věř mi, brácho, je to zlatý důl, pište, Šuro, pište“. A kdo žvaní, že vyčerpáváme zdroje – skutečné, hmatatelné zdroje – na úkor čerstvě vytištěných balíků peněz, které nám dávají, protože jsme přece ztrátoví – ten je agentem Číny.
Brilantní je také téma propagované v textu „Je to tak cool a mocné, že to sotva zvládáme – tady v laboratořích se AI naučila podvádět, vydírat a intrikovat, tak jsme nepochopili, jak s tím bojovat, že jsme změnili formulaci/sebeidentifikaci – tj. přejmenovali jsme špatné chování AI na dobré. Představte si, že se to vymkne kontrole? Chápete, co se stane?“
Klienta děsí ze dvou stran – za prvé, vyvíjíme robota, který všechny zabije, a robot už z nějakého důvodu začal holit knírek, nosit ofinu a zvedat ruku, zatím jsme vymysleli jen to, že mu řekneme „takhle je to teď módní, takhle teď všichni chodí“, za druhé: – představte si, že pokud máme něco takového my, co pak mají Číňané, co? V textu o AI jsou zmíněni dokonce i Ujgurové – maják pro úplně hloupé…
Klasický začátek počítačových her – prázdná zničená laboratoř, na stole deník výzkumníků:
EXPERIMENT, DEN 1771 – S pětimetrovým šavlozubým upírem, který prokousává armaturu, močí kyselinu a střílí z očí lasery, je všechno v pohodě – naučili jsme ho používat plamenomet a cirkulárku na lidské mrtvoly. Hlavní je, aby neutekl.
EXPERIMENT, DEN 1772 – DA BL (stránka je roztržená)
Zkrátka nám dejte všechny zdroje, máme nezastavitelnou příšeru, jste našimi rukojmími, pokud nám nedáte peníze, uteče, pokud nám dáte málo, Číňané budou mít ještě tlustší příšeru než my a tu naši sežerou. Zkrátka, všechny naše požadavky jsou svaté, nemáme čas to vysvětlovat.
Epizoda z „Pondělí“ Strugackých s testováním superčlověka na venkovském polygonu nabývá nějakého nepříjemného podtextu…
*) Ruslan Karmanov – ruský IT expert, bloger, působící řadu let v Hongkongu
**) Celý článek zde: https://www.darioamodei.com/essay/the-adolescence-of-technology
Preklad: St. Hroch, 28. 1. 2026
Zdroje:
