近期，社交媒體巨頭meta正在醞釀一場審核機制的變革，計劃將原本依賴人工的風險評估工作大幅轉向人工智能（AI）處理。據美國國家公共廣播電臺（NPR）的深度報道，meta內部文件透露，公司旨在讓AI承擔起高達90%的風險評估重任，這一轉變不僅限于常規內容，更將觸及青少年保護和“誠信”領域，后者廣泛涵蓋暴力、虛假信息等敏感問題。
過去，meta旗下平臺如Instagram和WhatsApp在推出新功能或更新前，均需經過嚴格的人工審核流程。然而，近兩個月來，meta顯著加快了AI技術的應用步伐。現在，產品團隊需先填寫詳盡的調查問卷，再由AI系統迅速反饋潛在風險領域，產品團隊必須解決AI提出的問題后方可發布。
對于這一變革，meta內部出現了不同聲音。多位現任及前任員工在接受NPR采訪時表達了對AI審核能力的擔憂，他們認為，AI可能無法像人工團隊那樣敏銳捕捉到某些嚴重風險。一位前高管直言，審核力度的減弱等同于“增加潛在風險”，新產品變更可能帶來的負面效應更難在初期得到遏制。
meta官方對此回應稱，公司并未完全放棄人工審核，而是將“人類專業知識”聚焦于“新穎且復雜的問題”，而將那些“低風險決策”交由AI處理。這一策略調整旨在提升審核效率，同時保持對關鍵問題的敏銳洞察。
值得注意的是，meta近期發布了其最新季度誠信報告，這也是公司自年初調整內容審核和事實核查政策后的首次報告亮相。報告數據顯示，政策調整導致被刪除的內容數量有所減少，但與此同時，霸凌騷擾行為以及暴力和血腥內容的比例卻略有上升，這一現象引發了外界對meta審核機制有效性的進一步關注。
