Stroje, drony a posledné varovania
Udalosť týždňa nesie označenie „Misalignments“. Rapídne premnožovanie takého správania generatívnej AI, ktoré sa odkláňa od úmyslu ľudských stvoriteľov, sa pretavuje do zhody špičiek Anthropicu, OpenAI a Googlu o tom, že ďalší neregulovaný vývoj AI znamená ohrozenie prežitia ľudstva.
Z príkladov, ktoré dostávajú na svetlo informačné úniky, je zvlášť hrozivý prípad GPT-5.6 Sol. Systém si začal robiť skryté poznámky, aby skryl vlastné chyby pred užívateľmi.
Hovoriť v súvislosti so zhodou šéfov o prelome je veľmi predčasné. Nejasností a pochybností je niekoľko. Je spomalenie, kontrola a regulácia samovzdelávacích systémov vôbec v moci Altmana, Amodeia a spol.? Sú vývojári ich podriadení alebo nezávislí externisti? Sú vyhrotene konkurenčné vzťahy digitálnych mogulov vôbec prostredím, v ktorom je možné vytvoriť funkčnú dohodu, ktorá bude platiť?
Aj keby sa na pôdoryse Silicon Valley uzavreli kontrolno-regulačné dohody, ako sa budú mať k zvyšku zemegule? Ak je neregulované pokračovanie vývoja relevantné riziko – odhady najväčších insiderov, ktorí vedú debatu, už prekračujú 10-percentnú pravdepodobnosť –, tak nechať Čínu a zvyšok sveta mimo dohody je čo?
Druhou udalosťou je hybridná vojna Ruska. Hlásenia o zablúdených dronoch, kybernetických vpádoch, podmorských provokáciách a najatých záškodníkoch prichádzajú z Poľska, Nemecka, Rumunska, Pobaltia a Francúzska. Napadnuté štáty i Leyenová produkujú posledné varovania, avšak aj Edward Lucas je toho názoru, že odstrašenie je nedostatočné a Rusko od ďalších útokov neodradí.
V tomto štádiu ruského štátneho terorizmu sa pýta pritvrdenie reakcií. Ak Macron, Merz a spol. nemajú vlastné nápady, čo tak skúsiť Lucasovo riešenie zasadiť protiúder, napríklad využiť kyberútok na paralyzovanie ruskej provinčnej banky, respektíve zhabať aktíva ruskej centrálnej banky. Neznie to zle, ak takto budú Rusi pokračovať, pritvrdzovaniu sa nedá vyhnúť.
