2020年9月，一篇名為《外賣騎手，困在系統裡》的文章備受關注。文章描述了在外賣平台系統的算法與數據驅動下，外賣騎手的配送時間不斷被壓縮，而騎手在強大的系統驅動下，為避免差評、維持收入，不得不在現實中選擇逆行、闖紅燈等做法。不少外賣騎手表示，幾十層的高層樓宇，電梯一等就是十幾分鐘甚至更長，但這樣的客觀情況，并沒有被“算法系統”考慮進去。
清華大學人工智能國際治理研究院副院長梁正：由於機器還在發展階段當中，針對一些勞動工作場景，把決定權力交給機器，有很大的潛藏的公平性、可靠性的風險。
互聯網平台優化算法主要通過大數據分析算法模型計算出業務經營的最佳策略，與此同時，與算法相配合的還有一整套嚴格的績效考核機制，一旦違背部分算法規則，則會在考核中失去“優勢”，并可能帶來了一些惡性應對行為。對此《規定》專門提出，算法推薦服務提供者向勞動者提供工作調度服務的，應當保護勞動者取得勞動報酬、休息休假等合法權益，建立完善平台訂單分配、報酬構成及支付、工作時間、獎懲等相關算法。
確保算法公開透明 嚴防刷量控評影響輿論
雇傭網絡“水軍”實施流量造假，鼓動“飯圈”粉絲互撕，刷量控評，一些算法推薦服務提供者幹預熱搜，影響網絡輿論的現象讓人詬病。明天施行的《互聯網信息服務算法推薦管理規定》將給這類影響網絡輿論的“黑手”戴上“緊箍咒”。
在娛樂行業，部分流量明星動輒可以拿到上億甚至十幾億的商業回報，明星商業平台無所不用其極地制作話題、進行炒作，任何可以引發粉絲關注討論的行為，甚至是粉絲之間的網絡罵戰，都是商業團隊常規的策劃內容。品牌方也深諳此道，甚至運用手段刻意制造不同粉絲的矛盾，掀起罵戰來博眼球、拉流量。
3月1日正式實施的《互聯網信息服務算法推薦管理規定》，要求算法推薦服務應遵循公開透明的原則，鼓勵算法推薦服務提供者綜合運用內容去重、打散幹預等策略，優化規則透明度和可解釋性。建立健全算法機制機理審核、科技倫理審查、用戶注册、信息發布審核等管理制度，不得利用算法操縱榜單、控制熱搜等幹預信息呈現。
中國信息安全研究院副院長左曉棟：我們看到的內容有可能會越來越偏離公正，偏離中立，被人為地或者是背後有算法在引導的情況，那麼就需要進行必要地幹預。 |
