澎湃新聞記者 陳宇曦 綜合報道
1月7日，據(jù)路透社報道，F(xiàn)acebook宣布，將移除deepfake視頻（即換臉視頻）以及其他被人工操控的視頻，旨在遏制美國大選前的錯誤信息傳播。但一些意在模仿和諷刺的視頻不在移除之列。
Facebook在1月6日于公司博客上發(fā)布了上述消息。Facebook介紹，操縱視頻可以使用簡單的技術，比如Photoshop，或者一些運用AI技術和深度學習技術的復雜工具來實現(xiàn)，后者通常體現(xiàn)為deepfake，即換臉視頻。
Facebook介紹了如何處理deepfake的做法，包括調查AI生成內容和欺騙行為（比如虛假賬戶），與學術界、政府和產(chǎn)業(yè)界進行合作。
具體而言，當視頻滿足以下兩個標準時，將會被移除，一是視頻經(jīng)過編輯后，誤導人們認為該視頻的人說出了一些話，但實際并沒有；另一個是使用人工智能或機器學習產(chǎn)品，對視頻進行內容整合、替換或疊加，使得視頻看上去是真實的。
Facebook稱，與現(xiàn)有政策一致，如果音頻、照片或視頻違反了其社區(qū)標準，包括裸露、暴力、仇恨言論等，將從平臺上移除。
不符合移除標準的視頻也會由獨立第三方事實檢查員進行審查，如果照片或置評被認定為虛假或部分虛假，F(xiàn)acebook將減少在新聞feed流中的分發(fā)。
Facebook介紹，該公司也在進行操縱內容的識別工作，其中，deepfake是最具有挑戰(zhàn)性的部分。在2019年9月，F(xiàn)acebook發(fā)起了Deep Fake檢測挑戰(zhàn)，鼓勵世界各地的人們對deepfake檢測進行研究，創(chuàng)造更多開源工具。
華爾街日報稱，借助深度學習和人工智能，計算機生成的視頻變得越來越逼真，甚至更難以檢測，這些換臉視頻可能很有趣，但會對人類生活帶來破壞性的后果。在今年的美國總統(tǒng)大選之前，社交媒體公司承受著越來越大的壓力，被要求在網(wǎng)站上消除虛假或誤導性內容。
路透社指出，F(xiàn)acebook長期以來被政客批評其內容政策，民主黨人譴責Facebook拒絕對政治廣告進行政治審查，共和黨人則指責該公司歧視保守派觀點。
Facebook此次移除換臉視頻的做法，也被指存在漏洞。Facebook稱，其禁止deepfake的政策不會拓展到模仿或諷刺的內容中，或僅為了省略和改變順序而被編輯的視頻。華爾街日報認為，這會使得公司處于不得不決定哪些視頻是諷刺視頻，而哪些不是的狀態(tài)。
一個案例是，美國眾議院議長南?！づ迓逦鳎∟ancy Pelosi）一段被編輯過的視頻不在移除之列，據(jù)華爾街日報介紹，在去年，佩洛西的這段視頻被廣泛分享，視頻被人為編輯放慢了速度，改變了語調，是她說話的感覺變?yōu)槟＠鈨煽伞?/p>
Facebook表示，由于使用了常規(guī)剪輯，該視頻不屬于deepfake，但該公司仍因為該視頻被人為故意操作而減少了其分發(fā)。這一做法則招致了廣泛批評，F(xiàn)acebook此次推出的“新政”也因此充滿爭議。
