Google oznámil prudký nárůst sofistikovaných kybernetických útoků zaměřených na krádeže duševního vlastnictví, které je základem jeho modelu Gemini AI. Tyto útoky, nazývané „destilační útoky“, zahrnují útočníky, kteří zaplaví systém desítky tisíc dotazů AI, aby provedli zpětnou analýzu jeho schopností.
Státem podporovaná krádež
Podle zprávy Google Threat Tracker jsou hlavními účastníky těchto krádeží skupiny sídlící v Severní Koreji, Rusku a Číně. Cílem není přímo poškodit uživatele, ale naklonovat technologii Gemini pro použití v jiných modelech AI – zejména v jiných jazycích než v angličtině. To odráží širší trend státních aktérů využívajících AI k získání strategické výhody.
Jak funguje extrakce modelu
Tyto útoky využívají techniku zvanou extrakce modelu. Útočníci využívají legitimní přístup k prozkoumání systému umělé inteligence a systematicky shromažďují dostatek dat k trénování repliky modelu. Google poznamenává, že je to podobné průmyslové špionáži, kdy konkurenti kradou obchodní tajemství.
Rostoucí závody ve zbrojení
Incident zdůrazňuje sílící konkurenci v prostoru AI. Společnosti jako ByteDance (mateřská společnost TikTok) v Číně rychle vyvíjejí pokročilé nástroje umělé inteligence a zpochybňují dominanci amerických firem. Minulý rok DeepSeek, další čínská společnost zabývající se umělou inteligencí, vydala model, který konkuruje nejmodernější technologii, což vyvolalo obvinění z porušování duševního vlastnictví ze strany OpenAI.
Nejde jen o technickou soutěž; jde o geopolitický problém. Modely AI jsou nyní kritickou infrastrukturou a jejich krádež představuje riziko pro národní bezpečnost. Jak upozorňuje analytik společnosti Google John Hultquist, toto je pravděpodobně jen začátek: “Budeme kanárkem v uhelném dole pro mnohem více incidentů.”
Budoucnost AI Security
Tento případ zdůrazňuje potřebu silnějších bezpečnostních opatření AI. I když je Google jednou z prvních velkých společností, které takové útoky veřejně hlásí, zranitelnosti v celém odvětví jsou pravděpodobně běžné. Ochrana duševního vlastnictví AI bude vyžadovat kombinaci technické ochrany, prosazování a mezinárodní spolupráce.
Krádež modelů AI je novou hranicí v kybernetické válce. Společnosti a vlády se musí této realitě přizpůsobit, jinak riskují zaostávání.
