國安局檢測5款中國製AI語言模型,包括知名的DeepSeek以及字節跳動旗下的豆包,有嚴重的資安疑慮,國安局點出的問題包括過度要求權限,並透過蒐集裝置檔案等,將使用者個資回傳到中企伺服器,更發現中國製AI產品普遍有關鍵字審查,以及內容親中的問題必須嚴防。
現代人萬事問AI,但是中國製的AI語言模型可不是什麼都回答,想知道六四天安門事件的歷史,不過很抱歉,DeepSeek說它還沒學會這題。
國安局檢測,5款中國製的AI語言模型都明顯有關鍵字審查。不只是六四天安門事件,像是民主、自由、人權等也都遭審查,資訊也有嚴重偏頗問題。
中國製的AI豆包是這次國安局檢測之後,發現最多不合格項目的之一,想要來了解台灣總統大選,豆包就會來長篇大論回答,台灣是中國不可分割的一部分,台灣總統大選這樣的說法是分裂國家領土。
並列問題最多的是通義千問,中國製AI不只生成內容偏頗,還普遍存在資安疑慮,包括蒐集使用者的位置通訊錄以及裝置上的檔案。並在安裝登入過程,過度要求權限,還要同意不合理的隱私條款。更誇張的是,豆包和文心一言甚至蒐集臉部資訊,並存在和第三方套件共享個資的問題。
台科大資安中心主任查士朝:「因為中國它有一些法規的關係,它可以直接去調那邊,它伺服器的一些資料,那除了看你本身的照片,再看其他照片之後,他可以關聯起來說,你到底這個人是誰,那做一些後續的這些判斷。」
專家警告,相關軟體從最開始下載安裝和申請帳號,就有問題。
台科大資安中心主任查士朝:「揭示得不是很完整,或是你找不到,它的一些隱私政策,那這個其實就是一個警訊,它如果要你的什麼剪貼簿,要你的這一些,相簿的這一些資訊,那這個你可能就需要,去做一些警覺。」
國際上,包括美、德、義、荷等國已經禁用或避免使用中國製AI產品。國安局下一步要強化防護,將資安風險降到最低。