人工智慧能否分辨"色情"和"裸露"的不同?猜猜看發生什麼事!
拿 人工智慧 做審核角色,乳癌防治文宣卻被誤殺!?? 目錄 臉書用人工智慧防仇恨與色情貼文 洋蔥、乳癌防治文宣被誤殺? 「洋蔥」貼文因「太過性感」,躺著也中槍? AI 能分辨裸露與色情的不同嗎? AI 人工智慧審核的利與弊? 臉書用人工智慧防仇恨與色情貼文 洋蔥、乳癌防治文宣被誤殺? 擁有超過 30 億活躍用戶、世界 24%人口每天都要使用的 Facebook ,一直以來試圖消彌平台上層出不窮的假新聞、仇恨言論與成人裸露內容等等。 為了即時防範、刪除這些違反平台守則的內容, Facebook 透過 AI 人工智慧 技術,分析貼文或留言中的文字、照片和其他細節,考量貼文整體的背景資訊,辨識出違規內容,再於以刪除。 根據 Facebook 在 2020 年發佈的《社群標準執行報告》顯示,AI 工具對於打擊違反社群平台守則的言論成效十分顯著:在 2017 年末的時候,臉書能發現並下架的違規言論,比例只有 24%;而 2019 年末,則上升到了 80.5%;在 2020 年的第4季,AI自動偵測系統已經可以發現97%的違規言論。 然而,即使 Facebook 持續改進並讓 AI 從新資料不斷地學習,依然有幾項被 AI「誤傷」的例子,讓我們重新思考起自動審查的利與弊。 「洋蔥」貼文因「太過性感」,躺著也中槍? 2020 年 10 月,一間加拿大種子公司 EW Gaze 為了替產品宣傳,在 Facebook 發佈圖文並茂的廣告,推銷甜味洋蔥的種子。然而,不久後卻收到臉書通知將廣告刪除,理由竟是因為「Overtly Sexualized」(帶有明顯性暗示)。 洋蔥廣告因被辨識為「太過性感」而遭下架。圖片來源:EW Gaze Facebook 專頁。 收到 Facebook 的下架通知後,公司經理花了一點時間才終於理解原因 ── 大概是因為洋蔥渾圓的外型,被臉書的審查 AI 誤判為「乳房或臀部」。後來經過申訴後,Facebook 恢復了這則廣告,並向他們表達歉意。 「過去使用 AI 來防範平...