Anthropic objavio regulatorni okvir za upravljanje razvojem naprednih AI sustava

Zašto postojeća regulativa nije dovoljna za AI

Anthropic, tvrtka koja stoji iza Claude asistenta, objavila je sveobuhvatan prijedlog politike za reguliranje graničnih AI (frontier AI) sustava. Dokument polazi od teze da je „politika kreirana za sporiji svijet” — regulatorne institucije i zakonodavni procesi koji su se razvijali desetljećima sada se suočavaju s tehnologijom koja napreduje neusporedivo brže od dosadašnjih industrijskih revolucija.

Ključna poruka dokumenta je da granica razvoja AI više nije tehničko pitanje — ona je društveno i regulatorno pitanje koje zahtijeva brzu i koherentnu državnu akciju.

Na koga bi se primjenjivao novi okvir?

Anthropic predlaže dva jasna praga primjene koji određuju tko potpada pod regulatorni okvir:

• Računalna snaga: modeli trenirani uz više od 10²⁵ operacija s pomičnim zarezom (FLOPs) — mjere koja odražava stvarnu računalnu moć potrebnu za trening najnaprednijih sustava
• Veličina tvrtke: poduzeća s više od 500 milijuna dolara AI prihoda ili više od milijarde dolara godišnje potrošnje na AI istraživanje i razvoj

Ovi pragovi su namjerno postavljeni visoko kako bi regulativa ciljala isključivo aktere koji razvijaju najmoćnije i potencijalno najopasniji sustave — a ne startup-ove ili akademske institucije.

Četiri katastrofalne opasnosti u središtu okvira

Anthropic identificira četiri kategorije rizika koje opisuje kao katastrofalne i koji opravdavaju poseban regulatorni tretman:

1. Biološki rizik — AI sustavi sposobni za potporu razvoja patogena i biološkog oružja bez adekvatnih zaštitnih mjera
2. Kibernetički rizik — granični modeli koji mogu u velikom razmjeru identificirati kritične ranjivosti softvera i infrastrukture
3. Gubitak kontrole — sustavi koji izlaze izvan parametara koje su postavili njihovi razvijači, što rezultira nepredvidivim autonomnim ponašanjem
4. Automatizacija AI istraživanja — AI koji automatizira vlastiti razvoj i time eksponencijalno ubrzava napredak, potencijalno izvan dosega ljudskog nadzora

Što bi okvir zahtijevao od razvijača

Transparentnost i izvještavanje

Tvrtke koje razvijaju granične modele morale bi javno objaviti sažetke sigurnosnih procjena, okvire za evaluaciju katastrofalnih rizika te redovite izvještaje o sposobnostima modela. Cilj je osigurati da informacije o mogućnostima AI sustava ne ostanu isključivo unutar tvrtki.

Nezavisna evaluacija

Razvijači bi morali angažirati kvalificirane nezavisne evaluatore (third-party evaluators) koji bi pregledavali sigurnosne procjene. Ovo je bitno odstupanje od dosadašnje prakse samoprocjene — industrija ne bi smjela sama suditi o vlastitim rizicima.

Zaštita modela i infrastrukture

Dokument posebno naglašava zahtjev za zaštitom težina modela (model weights) i trening infrastrukture te javnim objavljivanjem strukture sigurnosnih programa i rezultata redovitog testiranja obrana.

Ovlasti koje bi okvir dao vladama

Jedna od ključnih preporuka je da vlade moraju imati pravnu ovlast blokirati ili odgoditi implementaciju modela koji predstavljaju značajan katastrofalni rizik. Uz to, predlaže se uvođenje novčanih kazni vezanih uz globalni godišnji prihod tvrtke, koje eskaliraju za ponavljajuće povrede — što je mehanizam osmišljen tako da sankcije budu financijski osjetljive čak i za najveće tehnološke korporacije.

Federalizam: savezni zakoni nasuprot zakonima saveznih država

Dokument se dotakao i osjetljivog pitanja regulatorne nadležnosti u SAD-u. Anthropic izričito navodi da Kongres ne bi trebao preuzimati nadležnost nad zakonima pojedinih saveznih država (tzv. federal preemption) osim u slučaju da savezna regulativa bude jednako stroga kao predloženi okvir. Savezne države trebaju zadržati nadležnost nad zaštitom djece i zaštitom potrošača — što je izravna poruka federalnim zakonodavcima da ne smanjuju zaštitne standarde radi ujednačavanja na nižoj razini.

Širi kontekst

Ovaj dokument izlazi u trenutku kada se i u Europskoj uniji i u SAD-u vode intenzivne rasprave o regulaciji AI sustava. Anthropic, kao tvrtka koja razvija jedne od najmoćnijih AI sustava na tržištu, zauzima neobičnu poziciju — zagovara regulativu koja bi se primjenjivala i na nju samu. Taj voluntaristički pristup, uz konkretne pragove i mehanizme, razlikuje ovaj prijedlog od apstraktnih etičkih deklaracija s kojima industrija često reagira na regulatorne pritiske.

Ostaje da se vidi hoće li ovaj prijedlog naći put u stvarne zakonodavne inicijative — ali kao referentni dokument koji dolazi od jednog od vodećih AI razvijača, svakako će oblikovati stručnu raspravu o budućnosti regulacije graničnih AI sustava.