Washington ustavil dostop do najnaprednejše umetne inteligence
Anthropic čez noč umaknil modela Mythos 5 in Fable 5
Le nekaj dni po odmevni predstavitvi je ameriško podjetje Anthropic nepričakovano izklopilo dostop do svojih najzmogljivejših modelov umetne inteligence Claude Mythos 5 in Claude Fable 5. Razlog ni tehnična napaka, temveč neposreden ukrep ameriške vlade, ki je zaradi varnostnih pomislekov zahtevala omejitev uporabe modelov za tuje državljane.
Podjetje je sporočilo, da je moralo za zagotovitev skladnosti z odredbo administracije predsednika Donalda Trumpa nemudoma onemogočiti uporabo obeh modelov. Omejitev velja celo za tuje zaposlene znotraj Anthropica.
V središču spora so domnevne možnosti za tako imenovani »jailbreak« – obvod varnostnih zaščit sistema. Ameriški varnostni organi naj bi opozorili, da bi napredne zmogljivosti modelov lahko predstavljale tveganje za nacionalno varnost, predvsem na področju kibernetske varnosti.
Še posebej občutljiv je model Mythos 5, ki ga je Anthropic doslej ponujal le izbranemu krogu partnerjev. Podjetje je namreč že pred njegovo širšo objavo opozarjalo, da je izjemno učinkovit pri odkrivanju ranljivosti v programski opremi, kar bi lahko zlorabili tudi hekerji. Fable 5, javno dostopna različica sistema, naj bi vsebovala dodatne varovalke proti zlorabam.
V Anthropicu se z odločitvijo Washingtona ne strinjajo. Opozarjajo, da bi uporaba enakih meril za vse razvijalce umetne inteligence lahko praktično ustavila uvajanje novih generacij najnaprednejših modelov.
Dogajanje je odmevalo tudi v Bruslju. Evropska komisija meni, da primer dodatno potrjuje potrebo po večji evropski tehnološki neodvisnosti in zmanjšanju odvisnosti od ameriških tehnoloških velikanov.