算法不僅通過掌握人們接受、傳播信息的渠道，潛移默化地影響人們對於社會的理解認知，而且通過與諸多應用場景的結合，成為引導甚至主導人們行為選擇的“代理人”。從衣食住行的日常消費到生產流通的各個環節，很多都仰賴算法的智能推薦與決策。
同時，面對算法的強大支配力，人們往往沒有選擇的權力。很多應用軟件通過層層包裝，“知情-同意”形同虛設，大多數用戶只有“被知情”“被同意”的份。
相比傳統權力形態，算法權力可以跨越時空、無孔不入，存在著異化為“算法暴政”的可能。美國學者凱西•奧尼爾就將算法稱為“數學殺傷性武器”。
技術烏托邦者認為，技術是純粹理性、客觀、中立的，能够以流程化、規範化的代碼完全擺脫人為幹擾與恣意專斷。但事實上，技術終究要靠人來定義、設計、使用，人的價值觀不可避免地會映射到數字世界，融入算法的內核與運行。
如果算法沒有外在的約束，那麼極易誤入歧途。若是如此，“算法對公衆權利的保障與補充上實現的增幅，遠遠無法達到權威的代表者、資本的代理人在權力擴張上實現的增幅。”
有學者如此形容技術統治下的社會分化：一個是具有操控“數字資本”的“數據權貴”，笑容滿面、雄心勃勃；另一個是置身於算法歧視、數據壟斷、算法霸權統治下的“數字難民”，戰戰兢兢、畏葸不前。
02
北京大學互聯網發展研究中心發布的《中國大安全感知報告（2021）》顯示，受訪者中，60%擔心自己的信息在數字環境中有洩露風險，70%擔心個人喜好、興趣被算法“算計”，50%表示在算法束縛下想要逃離網絡、遠離手機。 |
