Američka administracija uvodi značajan pomak u nadzoru nad najnaprednijim modelima umjetne inteligencije, tražeći od vodećih tehnoloških tvrtki da omoguće vladinim stručnjacima detaljna sigurnosna testiranja prije nego što ti modeli postanu javno dostupni. Iako je novi okvir zasad formalno dobrovoljan, Washington jasno signalizira da se AI sustavi s potencijalom za preoblikovanje kibernetičke sigurnosti, automatizaciju složenih zadataka i djelovanje u osjetljivim područjima više ne mogu tretirati kao rutinska softverska ažuriranja.
U središtu ove inicijative je procjena rizika naprednih AI sustava prije njihove široke distribucije. Testiranja će obuhvaćati sposobnost modela da pomogne u otkrivanju i iskorištavanju sigurnosnih ranjivosti, zaobilaženju zaštitnih mehanizama, automatizaciji napada ili generiranju uputa koje bi mogle imati ozbiljne posljedice u stvarnom svijetu. Ovakav pristup predstavlja značajan odmak za industriju, koja je dosad tempo razvoja uglavnom određivala tehnološkim napretkom i tržišnim natjecanjem, dok su se sigurnosne provjere provodile tek nakon puštanja proizvoda na tržište. Sada se uvodi dodatni sloj kontrole i provjera prije komercijalne dostupnosti.
Američki model oslanja se na dobrovoljne dogovore između države i tehnoloških kompanija, što predstavlja kompromis između deregulacije i rastućih zahtjeva sigurnosnih stručnjaka. Takav pristup ostavlja prostor kompanijama da nastave inovacije bez formalnog usporavanja procesa, ali istovremeno otvara pitanja standardizacije i razine pristupa koji će vlada imati u testiranju modela.
Stručnjaci upozoravaju da učinkovitost dobrovoljnog okvira može uvelike ovisiti o spremnosti kompanija na suradnju, što znači da će sustav ovisiti o povjerenju i tržišnoj dinamici. Promjena je posebno važna jer se sve više razvijaju takozvani “frontier” AI modeli, čije se sposobnosti ne mogu lako ograničiti ili naknadno “zakrpati” nakon javnog objavljivanja. U takvim slučajevima, potencijalne zloupotrebe mogu nastati brzo i u velikom opsegu, prije nego što regulatorni ili sigurnosni mehanizmi uopće stignu reagirati.
Očekuje se da bi slični trendovi mogli utjecati i na Europu, gdje se već primjenjuje okvir kroz EU AI Act, no regulacija se i dalje pokušava uskladiti s brzim razvojem tehnologije. Američki pristup mogao bi poslužiti kao model za dodatne sigurnosne zahtjeve, osobito u sektorima poput obrane, zdravstva i financija. Promjene će se odraziti i na poslovni sektor, gdje će pri uvođenju AI rješenja sve važnija postajati pitanja sigurnosnih procjena, revizije modela i odgovornosti u slučaju štete, a ne samo performansi i cijene tehnologije.
