AI產品大多基於對用戶行為、生物特徵等敏感數據的深度感知、分析，最終作出智慧決策，這不免讓用戶擔憂AI過度采集個人信息，會造成隱私洩露。此前，熱銷的AI幼兒玩具就被曝出持續收集並上傳用戶語音信息、居住環境等隱私數據，並被不法分子截取。
奇安信科技集團股份有限公司網絡安全專家張少波認為，用戶選擇AI產品，本質是追求“更安全的服務、更高效的體驗”，安全與可信是AI產品的核心競爭力和不可觸碰的底線，“AI＋消費”不以讓渡用戶隱私為代價。
張少波表示，2025年9月1日，我國印發的《人工智能生成合成內容標識辦法》正式施行，一定程度上為AI終端產品應用構建了“顯式標識（用戶可見）＋隱式標識（技術溯源）”的全鏈條治理架構。未來，參與設計、生產AI產品的各方主體，必須遵循“數據最小化＋全程可溯”制度，即數據收集需取得“明確授權”並限定範圍，數據存儲優先採用“加密脫敏＋本地優先”模式，數據流轉要嵌入“全生命周期標識”，打造出更安全、更智慧的AI產品。 |
