一張圖就能讓機器狗失控:VicOne 執行長鄭奕立揭 AI 機器人的 5 大資安攻擊面與 3 步驟解方

「未來基本上就是 AI 對 AI,」談到未來的資安格局,VicOne 執行長鄭奕立強調,隨著生成式 AI 技術快速成熟、具身 AI(Physical AI)迎來爆發期,AI 正跨越螢幕與雲端,擁有能直接影響現實世界的身體與大腦。
面對這波從虛擬邁向物理世界的全新挑戰,VicOne 憑藉過往在全球軟體定義汽車領域累積的深厚防護經驗,積極將資安戰線從智慧車延伸至機器人、無人載具與無人機等領域,防範失控的 AI 模型對周遭人類帶來的致命風險。
AI 機器人的資安挑戰不只在模型,也在硬體極限
從底層架構來看,智慧車與機器人的軟體架構及通訊協定高度相似,但在 AI 模型的感知與控制上,卻有著顯著差異。鄭奕立解析,車用 AI 模型的主要任務是「防撞」,仰賴視覺與距離感測,本質上偏向 2D 空間的運作。然而,因為機器人有實際執行任務的需求,在做拿取物品、削水果等複雜動作時,就必須具備強大的「空間智慧(Spatial Intelligence)」,才能讓 AI 精準判斷環境的厚度、深度與距離。
更具挑戰的是硬體的先天限制。鄭奕立指出,傳統 IT 領域為了控制成本,機器人的硬體算力通常設計得「剛剛好」。這代表企業的思維不能像過去買傳統 PC 一樣,「買回來覺得需要再安裝防毒軟體」,因為機器人其實沒有多餘的容量安裝後加的防護程式。因此,鄭奕立提醒,這種硬體極限,將徹底顛覆企業「先買設備、再想資安」的傳統採購習慣。
一張圖就能讓機器狗失控:VicOne 揭 Physical AI 的五大攻擊面
VicOne 團隊也現場展示一隻內建 AI 視覺模型的機器狗。這隻機器狗在辨識到特定圖像時,原本的設定是會做出「比愛心」的動作;然而,一旦在視覺鏡頭前貼上一張特別設計的圖像進行視覺干擾後,機器狗的認知就會瞬間被扭曲,立刻失控轉為對著目標「揮拳攻擊」的模式。

鄭奕立解釋,這並非遙控作假,而是真實打中了 AI 模型的軟肋。當機器人將捕捉到的視覺影像轉換為語言模型來理解並執行動作時,若系統底層的安全護欄(Guardrails)沒有建置完善,那麼駭客僅憑一個簡單圖像,就能輕易達成提示詞注入(Prompt Injection),進而竄改機器人的控制權。
透過這個案例,鄭奕立進一步剖析,針對機器人的資安攻擊面主要可劃分為五大維度。除了上述最核心且最危險的 AI 模型攻擊之外,還包含直接針對機械設備漏洞下手的物理硬體層面、利用視覺或干擾 GPS 訊號的感知層面、鎖定機器人為了防盜與管理而勢必需要連網的雲端與軟體應用,以及最容易成為攻擊突破口、如同入侵手機與物聯網一般脆弱的無線通訊領域。
機器人進入實體場域後,資安防線不只要防駭客也要防環境誤導
「機器人的資安防禦,其實比純數位環境更難搞定,」鄭奕立坦言,建立機器人資安防護的過程中,最大的痛點在於現實世界充滿不可控的變數。當機器人走入家庭或複雜工廠,隨便一張亂丟在旁邊的報紙廣告、或是一本童話書,只要落入機器人的視覺範圍,都可能讓 AI 模型產生非預期的認知與設定。
同時,攻防雙方也處於極度不對等的狀態。在「AI 對 AI」的時代,駭客發動攻擊的成本極低,他們可以直接利用 AI 自動去尋找目標 AI 模型的盲點,只要防禦被穿透一次,駭客的攻擊手法就能輕易被自動化與大規模複製。
當機器人走進更多場域,資安防線必須從採購前就開始
面對嚴峻的物理 AI 防禦戰,鄭奕立強烈呼籲企業:在導入機器人前,第一步是「學習如何與機器人共處」,並且「務必先訂定資安規範,再進行採購」。他強調,企業千萬不要貿然買了幾台機器人就直接丟進工廠,因為機器人的運行會直接牽涉到員工的人身安全。
對此,鄭奕立建議企業可以依循三步驟,來增強 AI 機器人的資安防護。首先是在「開發期」,於製造與訓練模型的過程中,就先確保 AI 模型本身的安全性。其次,進入「模擬期」後,利用如 NVIDIA 提供的模擬環境,在機器人實際落地前,先於虛擬世界中進行「零成本」的 AI 弱點掃描與攻擊防禦測試,提早在出廠前防堵潛在的破口。最後則是在「運行期」,考量到 AI 模型會不斷更新改版,防護機制必須持續在系統底層運作,保護 AI 模型不會遭到惡意竄改。
隨著開源模型成熟與硬體成本大幅降低,如今部分中國製造的機器狗,價格甚至已逼近一台高階智慧型手機。在可見的未來,從幫你下樓拿咖啡,到回到家幫忙煮飯、打理家務,機器人將如現今的手機一樣普及。當「一人多機」的時代到來時,具身 AI 的資安將不再是遙遠的科技名詞,而是每個人生活中不可或缺的基礎建設。