Šéf Anthropicu vyzval firmy, aby spomalili vývoj modelov umelej inteligencie
Generálny riaditeľ americkej spoločnosti Anthropic Dario Amodei vyzval firmy zaoberajúce sa umelou inteligenciou, aby spomalili tempo, akým rozširujú schopnosti svojich modelov. Navrhol trojkrokový rámec, ktorého cieľom je regulovať rýchlosť vývoja a získať viac času na riadenie súvisiacich rizík.
Krok reaguje na rastúce obavy zo zneužitia umelej inteligencie, uviedla agentúra Reuters.
„Musíme spomaliť tempo, akým zlepšujeme schopnosti modelov umelej inteligencie. Pokrok bude aj tak rýchly a my musíme múdro využiť čas, ktorý tým získame,“ uviedol Amodei v eseji publikovanej na sociálnej sieti X.
Text nadväzuje na správu o hrozbách, ktorú Anthropic zverejnil vo štvrtok. Opisuje v nej, ako niekoľko aktérov zneužilo modely umelej inteligencie Anthropic Claude na činnosti od vývoja zbraní cez kybernetické operácie až po sledovanie a podvody.
Obavy z potenciálneho nebezpečenstva umelej inteligencie sa tento týždeň ešte zvýšili, keď výskumník spoločnosti Anthropic Jacov Coxon podal výpoveď a uviedol, že „ľudia, ktorí vyvíjajú umelú inteligenciu, úprimne veria, že by nás mohla do konca tohto desaťročia všetkých zabiť“.
Amodei uviedol, že nechce zastaviť pokrok, ale zaistiť, aby spoločnosti mali dostatok času na zabezpečenie svojich modelov AI a na to, aby to mohla overiť tretia strana.
Spoločnosť Anthropic v rámci plánov podľa svojho riaditeľa dosadí stálych externých znalcov do popredných firiem zaoberajúcich sa umelou inteligenciou, ktorí budú mať prístup k príslušným nástrojom a k interným procesom posudzovania rizík.
Podľa Amodeia by firmy zaoberajúce sa AI mali dobrovoľne spolupracovať na vytýčení štandardov, keďže americkí zákonodarcovia vyzývajú k zavedeniu nových pravidiel.
