Umelá inteligencia už dramaticky zrýchľuje vlastný vývoj. Je načase s tým niečo robiť
Piateho novembra zverejnila nezisková organizácia METR správu, ktorá predstavuje zlom v tom, ako treba rozumieť vývoju umelej inteligencie. Doteraz jeho tempo určovali ľudia, výpočtový výkon a dáta. Odvtedy sa podľa METR do hry zapojila samotná AI a v jednej z popredných firiem dnes urýchľuje vývoj svojich nástupcov.
V angličtine sa tomu hovorí recursive self-improvement (RSI), rekurzívne sebazlepšovanie. Odborníci naň desaťročia upozorňovali ako na bod, po ktorom sa vývoj môže vymknúť kontrole. METR je jedna z dvoch najdôveryhodnejších organizácií, ktoré testujú najvýkonnejšie modely umelej inteligencie skôr, ako sa dostanú k verejnosti.
Dramaticky zrýchlený pokrok
Nezávislí hodnotitelia strávili od augusta do októbra jedenásť týždňov vo firme Anthropic, ktorá vyvíja chatbota Claude, konkurenta ChatGPT. Videli interné výsledky testov, tréningové dáta, údaje o výpočtovom výkone a o napísanom kóde a hovorili s asi pätnástimi kľúčovými zamestnancami.
Anthropic dnes podľa ich záveru zlepšuje schopnosti svojich modelov na jasne zadaných úlohách zhruba dvakrát rýchlejšie ako medzi marcom 2024 a októbrom 2025. METR priznáva veľkú neistotu a výskumníci by sa nečudovali, keby skutočné zrýchlenie bolo 1,3-násobné alebo až trojnásobné. Za rok tak firma urobí toľko pokroku ako predtým za dva. Asi 80 percent zrýchlenia sa pripisuje tomu, že Anthropic vo veľkom používa AI na vlastný výskum.
Politika zaostáva
Ľudia, ktorí sa predpovedaniu vývoja AI venujú profesionálne, zmenili názor nezvyčajne rýchlo. Ešte v auguste najodvážnejší člen tímu AI Futures Project Daniel Kokotajlo odhadoval, že superľudský AI výskumník príde pred rokom 2029 s pravdepodobnosťou päťdesiat percent. Po správe METR všetci členovia tímu očakávajú, že takýto systém príde zrejme niekedy v roku 2027, ak sa vývoj zámerne nespomalí.
Európskemu zákonu o umelej inteligencii trvala cesta od návrhu Komisie v apríli 2021 po prijatie v roku 2024 viac ako tri roky. Pri dnešnom tempe by zákon, ktorý sa začne písať teraz, v deň schválenia reguloval systémy o niekoľko generácií staršie.
Aj Slovensko potrebuje úrad
Slovenská debata o umelej inteligencii sa zatiaľ točí okolo deepfakov z volebnej kampane v roku 2023 a okolo toho, či študenti píšu seminárky s ChatGPT. Správa METR otvára otázku, kto bude mať kontrolu nad systémami, ktoré urýchľujú vlastný vývoj.
Od 2. augusta 2026 môže Úrad EÚ pre umelú inteligenciu od poskytovateľov najvýkonnejších modelov vyžadovať informácie a dokumentáciu, získať prístup k modelom na testovanie a nariadiť opatrenia na zníženie rizík. Slovenský zástupca v Európskej rade pre umelú inteligenciu by mal spolu s ďalšími vládami žiadať, aby si AI Office od Anthropicu vyžiadal nevyčiarknutú verziu správy METR.
Doma potrebujeme ľudí, ktorí takejto správe rozumejú. Podobný útvar pre riziká a fungovanie AI pri Úrade vlády by sledoval vývoj, spolupracoval s náprotivkami v iných krajinách a raz za štvrťrok by vláde a parlamentu predložil vecnú správu.
