Administracija ameriškega predsednika Donalda Trumpa je po preplahu zaradi novega modela umetne inteligence (UI), ki lahko avtonomno vdira v programsko opremo, izvedla preobrat v svoji politiki. Nov predsedniški odlok uvaja prostovoljno varnostno preverjanje najzmogljivejših modelov, in to le nekaj tednov po tem, ko je ista administracija prepovedala uporabo tehnologije razvijalca Anthropic v zveznih uradih.
Odlok, izdan v začetku junija, vzpostavlja okvir, znotraj katerega lahko podjetja svoje najnaprednejše modele prostovoljno predložijo v presojo tveganj za nacionalno varnost. To lahko storijo do en mesec pred javno objavo. Ukrep ne uvaja obveznega sistema odobritev, predvideva pa ustanovitev koordinacijskega centra za kibernetsko varnost, ki bo usklajeval iskanje ranljivosti v programski opremi.
Sprožilec za spremembo je bil model »Mythos« podjetja Anthropic. Podjetje je ocenilo, da je model tako zmogljiv pri samostojnem odkrivanju in izkoriščanju do zdaj neznanih varnostnih pomanjkljivosti, da so se odločili proti javni objavi. Namesto tega so v okviru projekta »Glasswing« omejen dostop ponudili izbranim partnerjem, kot so Apple, Google in Microsoft, za obrambno uporabo – iskanje napak v lastnih sistemih.
Preobrat je izrazit, saj je ista administracija še pred nekaj meseci tehnologijo podjetja Anthropic označila za varnostno tveganje in jo prepovedala za zvezno uporabo. Razlog naj bi bil, ker se je Anthropic uprl neomejeni uporabi svoje tehnologije za namene množičnega nadzora ali avtonomnih orožnih sistemov.
Vodilna tehnološka podjetja, vključno z Anthropicom, Googlom in razvijalcem ChatGPT-ja OpenAI, so odlok pozdravila kot »pomemben korak«. Pri OpenAI so celo pozvali k sprejetju zavezujočega zakonskega okvira, ki bi vključeval obvezne preglede najzmogljivejših modelov pred njihovo objavo.