人工智慧編輯大出包!竟搞出如此烏龍,讓種族問題浮上檯面?(上)
人工智慧人臉辨識的技術真的成熟了嗎?一起來看看它最近出了什麼包!
日前微軟公司宣布:要讓 AI 人工智慧取代旗下近百位「真人」新聞記者與編輯,來為微軟新聞、MSN.com 等管道,挑選、編輯新聞。根據 Business Insider 報導,美國有約 59 人遭裁撤;衛報也則提到英國也有約 27 人遭裁,還有其他國家地區的辦公室,也有許多員工面臨飯碗不保的窘境。
沒想到這個 AI 人工智慧才上線一個月就出包,還牽扯到近期非常敏感的種族議題,引發人們對人工智慧的編輯新聞能力、整體臉部辨識科技的疑慮。
▲ 普林斯敦大學的研究團隊結合人工智慧新聞編輯混淆了英國兩位有色人種歌手:Leigh-Anne Pinnock(左)和 Jade Thirlwall(右)。
推薦閱讀:AI寫作能力強過人類,恐成為假新聞製造機?
人工智慧錯置新聞配圖 女歌手指名「請加油吧」
根據英國《衛報》指出,微軟旗下的 MSN 新聞網站,近日轉載了英國《獨立報》有關英國流行女團 Little Mix(混合甜心)的報導,內容是關於其中一位成員 Jade Thirlwall 過去在學校中遭受種族歧視的心路歷程。
雖然這是一篇單純的採訪報導,但經過微軟的 AI 人工智慧編輯轉載後,沒想到,新聞配圖竟然不是採訪的對象 Jade Thirlwall,而是同團的另一名團員 Leigh-Anne Pinnock 與另一名男性的合照!
▲ 被人工智慧錯置配圖的新聞主角 Jade Thirlwall 在 IG 上表達對 MSN 新聞的不滿
目前尚不清楚讓微軟 AI 人工智慧犯下如此錯誤的原因,但微軟在新的聲明中表示:這不是「演算法偏見(註解如下)」的結果,而是自動化系統中的新功能測試。
PS:所謂的「演算法偏見(algorithmic bias)」是指在看似沒有惡意的程式設計中,卻帶有程式設計人員的偏見、或者採用的數據是有偏見的。
「演算法偏見」的結果,當然帶來了各種問題:如 Google 搜尋被曲解、合格的考生無法進入醫學院就學、聊天機器人在推特 (Twitter) 上散佈種族主義和性別歧視資訊等等。
人工智慧編輯大出包!竟搞出如此烏龍,讓種族問題浮上檯面?(下)
別再愛情釀的酒了,來喝喝人工智慧釀的威士忌!(下)
體壇上的人工智慧已經能組隊打職棒了?真假的?(下)
線上職訓正夯 從零開始花半年錄取軟體工程師
Python vs R語言:哪個比較適合人工智慧/機器學習?
台灣本土開發AI 發行首張音樂專輯<<武漢肺炎>>
六個月從工地工人轉職 Java 軟體工程師,全因半年做了「對的決定」