娶了UI設計師的Python工程師-北歐生活

這些關於 人工智慧 臉部辨識的隱憂,原因到底是什麼?這些隱憂短期內能被解決嗎?   為什麼 人工智慧 不擅長辨識黑人女性？ ▲ 科學期刊《自然》所刊之專文指出，被偏倚資料組訓練出來的演算法，通常僅會將左圖辨識成「新娘」。(圖片來自：Left：iStock/Getty；Right：Prakash Singh/AFP/Getty) 那究竟為什麼 AI 不擅長辨識黑人與女性呢？讓我們從波拉維尼的故事說起： 在 MIT 實驗室的某日，波拉維尼用自己的臉部照片測試了微軟、IBM 等公司的臉部辨識 服務，卻發現這些將自己宣稱的多先進的服務，有的將她誤認為男性、有的對她的照片沒有反應，根本辨識不出東西，錯誤率高得令她吃驚。 一直到她戴上白人面具，AI 彷彿恢復正常般，又可以辨識了。難道是她的臉部長相太特別、剛好是 AI 辨識不出來的特例？還是……這些辨識服務本身就有漏洞？ 於是，波拉維尼決定進行更廣泛的測試。她輸入了超過 1000 張照片，包括不同種族、不同性別。結果發現一個明顯的趨勢：膚色愈白，辨識正確率就越高；另一方面男性的正確率遠比女性高。讓她明白為何臉部辨識幾乎無法認出她——因為她是一位具有「雙重弱勢」黑人女性，她這類人的辨識正確度，遠遠低於白人男性。 真相其實很簡單，歸根究柢就是因為在訓練演算法時，開發團隊沒有提供多元的種族和性別資料給 AI 所導致。換句話說，AI 在「成長過程」中，認知到的世界就多由白人、男性所構成。 即使並沒有人刻意將 人工智慧 訓練成這樣，但它可能引發的後續問題，或許比存有種族偏見的街頭警察更加嚴重……   還沒有完善就直接上陣的演算法 這個問題多花點時間就可以修正，只要提供多元組成的資料給 AI 即可，但這些科技公司依然選擇讓不完全的臉部辨識服務上線。 而臉部辨識服務也不是唯一一個，將存有偏見疑慮的 人工智慧 服務投入實用的案例： 2018 年紐西蘭移民署（Immigration New Zealand）實行一項實驗計畫（pilot programme），藉由國家簽證申請程序蒐集移民的年齡、性別、種族、犯罪紀錄、醫療費用欠繳紀錄等等資料，預測這些居留者如果續留，有無犯罪的可能或是否帶來更多醫療支出。一旦 AI 認為，某些移民有治安或醫療方面的疑慮，他們將無法重...

人工智慧 的臉部辨識,現在的進展如何?還有哪些隱憂?   為了 人工智慧 辨識，你願意戴「白面具」嗎？臉部辨識的隱憂 人工智慧 臉部辨識技術越加成熟，能辨別出「你是誰」已經是基本款中的基本款了！越來越多 AI 辨識技術宣稱可以「從臉孔辨識出智商、性取向、政治傾向甚至是犯罪可能」。 看上去功能如此強大的 AI，卻遭披露「其實只擅長辨認白人」，讓臉部辨識的隱憂浮出水面。 AI 臉部辨識技術已被廣泛使用，也實際應用於執法：根據紀錄，從 2011 年起美國聯邦調查局（FBI）偵辦案件時就開始使用臉部辨識技術，至今累計了超過 39 萬次的臉部辨識搜索紀錄，是近年美國執法部門應用成長速度最快的系統工具。 但隨之而來的是被大力敲響的警鐘：一位麻省理工媒體實驗室的資料科學家喬伊‧波拉維尼（Joy Buolamwini）指出，臉部辨識技術其實十分容易誤認有色人種。 只擅辨識「中年白人男性」的 人工智慧 ▲ (圖片來自：圖片來自：AP Photo/Steven Senne) AI 臉部辨識技術已經成熟了嗎？或許真的該打上個大問號。 來自 MIT 實驗室的迦納裔資料科學家喬伊‧波拉維尼表示，根據她於 2018 到 2019 年間做的兩項研究，證實眾多科技公司開發的 AI 都無法如辨識白人男性臉孔般、準確的辨識出膚色較深的女性臉孔。 其中，尤以 IBM 系統失誤率最高，竟高達 34 ％；而亞馬遜的 Rekognition 會將 19 ％的女性誤認為男性，若分析對象為膚色較深的女性，誤判機會更是高達 31 ％，同時該系統在分析膚色較白的人種時，錯誤率幾乎為零。 波拉維尼發現，這些由科技巨頭如微軟、亞馬遜與 IBM 等公司研發出的臉部辨識 AI 演算法，對於判讀白人、黑人與女性竟然出現了差別待遇：「判讀白人的正確度比較高，判讀黑人與女性的正確性則較低。」 推薦閱讀： 微軟AI新聞編輯才上線就出包！錯置有色人種配圖，女歌星森77     延伸閱讀： 尷尬了!人工智慧臉部辨識竟無法正確分辨有色人種!(上) 人工智慧電影,闡述人類與AI的恩怨情仇.. 全球首台人工智慧貓砂盆上市!讓我們從貓便便開始把關!(下) 愛沙尼亞即將任用 AI 法官！人工智慧走入司法領域就一定公正嗎？ ...

  人工智慧 這次要阻止貓貓不斷地給你戰利品了!一起來看看這次的機器學習分享!   人工智慧 AI 科技用於可愛的喵星人身上已不是新聞，像是之前百度工程師為了拯救寒冬中的浪浪而開發的 人工智慧貓屋 ，保護浪浪免於凍死與餓死；台灣也有從矽谷回台的工程師開發 AI 貓便盆，都是以保護愛貓為出發點。而這次又有 人工智慧 貓咪產品問世，只是這次的開發動機是：奴才被主子叼回的獵物嚇到，而且開發人員不是工程師！ 推薦閱讀： AI 保護流浪貓！百度工程師打造人工智慧貓窩   ▲ 人工智慧 貓門可偵測到附近出沒的貓 以及牠們口中是否叼著獵物 寵物貓半夜叼獵物回家 奴才嚇到研發AI產品應對 根據 the Verge報導：亞馬遜的產品經理 Ben Hamm 收養了一隻「甜蜜又致命的貓（sweet, murderous cat）」Metric 之後，半夜經常被吵醒。因為 Metric 這時總會叼著「戰利品」回到家中。有時是垂死的小動物、有時甚至是屍體。Hamm 別無選擇，只能疲憊地將牠們安樂死後，再回去補眠。 Hamm 透過學習程式語言的方式解決了這個問題，並且在「點燃西雅圖（Ignite Seattle）」的演講中，幽默地分享這項 人工智慧 解決方案「貓・老鼠・A.I・我的媽啊！（Cats, Rats, A.I., Oh My!）」 ▲貓奴PM分享他如何使用 人工智慧 解決愛貓叼獵物回家的問題 首先，Hamm 先把家中的貓門「升級」為「守門員」來把關愛貓是否又帶獵物回家。安裝電子套件 Arduino 來鎖門很容易，但是要如何讓門鎖感應到Metric 的口中是否叼著獵物？ 透過 機器學習 訓練 人工智慧 分辨貓與獵物 身為亞馬遜的資深產品經理，Hamm 想出了 ML 機器學習 的解決方案。Hamm 在貓門上方安裝了自家的 AWS DeepLens。AWS DeepLens可讓程式開發人員在攝影機上執行DL深度學習模型，以針對看到的內容進行分析和採取行動。 推薦閱讀： 人工智慧,Python,機器學習,深度學習是什麼?AI專有名詞看這篇秒懂 ▲ 人工智慧 貓門偵測到叼著獵物的貓咪後，Arduino 系統就會自動...

這一次 人工智慧 跑來幫貓貓取名子了,這些名字也太...太特別了吧!! AI 人工智慧 替貓客製化命名，每一個都獨一無二：有的可愛、有的酷、有的有黑色幽默、有的歪樓了⋯⋯   ▲ 人工智慧 為收容所的貓所起的名字獨一無二，由左至右、由上至下分別為「鬍鬚伊德」、「閃亮鈕扣」、「驚惡先生」、「造星者」、「布丁狗」、「閃亮湯姆」、「這傢伙」與「Beep Boop」。 流浪貓「閃亮鈕扣（Sparky Buttons）」被發現時，左眼已受到感染。但是當牠擁抱、玩耍時，仍然活力十足；而另一隻貓「驚惡先生（Mr.Sinister）」，雖然名字很魔性，但是牠也是一只貨真價實的塞奶貓呢！他們與「閃亮湯姆（Tom Glitter）」、「布丁狗（Pompompur）」、「Whiskeridoo」都是待領養的小貓咪。牠們特殊的名字是來自 AI  人工智慧 的客製化命名！ 美國費城的莫里斯動物收容所（Morris Animal Refuge）為了幫這些等待奴才的喵星人們命名，與知名 人工智慧 科學家 Janelle Shane 合作，訓練了一組人工神經網路（英語：Artificial Neural Network，ANN）來替貓咪命名。而這些來自 AI  人工智慧 的名字，有的很萌、有的很詭異甚至有點可怕。 最初，Janelle 輸入 8000 個貓咪的名字，讓 人工智慧 學習替貓命名。但是這個 AI 似乎有點迷糊，給出了像是 Hurler 或是 Retchion 這樣的名字。於是 Janelle 就借助另一個擁有更多語彙庫的 AI，使用一長串的貓名來訓練它。這次總算是成功了。 這套人工神經網路給出了像是「小念頭（Notion）」、「小鏡片（Monocle）」等等可愛的名字。有時 AI 會歪樓，給出像是「Scat Cat Butthole（便便貓菊花？）」、「Fudge Putty (一款髮泥的名稱)」以及「BUTT（屁屁）」；有時會有一些像是「Ｗarning Signs（警告標誌）」、「Bones of the Master（主人的骨頭）」以及「Kill All Humans（殺光人類）」等的黑色幽默。你可以點這裡看到所有由這套 人工智慧 起的貓名字。 Janelle S...

而 人工智慧 在臉部辨識上,對於有色人種出的包,竟還有這齣! 人工智慧臉部辨識 不易分辨有色人種 ▲ 被亞馬遜「Rekognition」 臉部辨識系統錯認的 28 位國會議員 其實 人工智慧 在辨識有色人種時，似乎常常犯錯。 如 2018 年，美國公民自由聯盟（American Civil Liberties Union，ACLU）就對亞馬遜提供的「Rekognition」 付費臉部辨識服務做了一項測試。 ACLU 蒐集了 25000 張嫌犯照片做為臉部辨識的資料庫，並使用預設的設定，讓 Rekognition 逐張比對國會議員和資料庫裡的嫌犯照片。結果，最後有 28 名國會議員被誤判，且在誤判的議員中，竟有高達 40% 的議員是有色人種 ── 即便有色人種在全部的國會議員中只占了兩成。 ▲眾議員 Sanford Bishop（D-Ga.）被 Amazon Rekognition 臉部辨識系統錯認為罪犯 然而，「Rekognition」 臉部辨識系統也被美國警方使用。這是否會在不知不覺中侵犯到有色人種的權益？目前亞馬遜已因此問題，暫停提供這套系統給美國政府使用。 現有的臉部辨識技術，在分辨有色人種特別容易出錯，也許是以下原因導致： AI資料庫的白人照片比較多 美國喬治城大學法律中心（Georgetown Law School Center）的隱私與科技領域資深助理 Clare Garvie 表示，原因可能是出在工程師建立 AI  人工智慧 的臉部辨識資料庫時，提供的白人照片比有色人種多而導致。 開發工程師以白人居多 一個研究顯示：人們在辨識另一種族的人員時，準確度會低於辨識與自己相同種族的成員。 而大部分 IT 產業的工程師以白人男性居多，他們開發出的臉部辨識系統在辨識有色人種的準確度時，無形中也比白人還差 ── 即使他們無意為之。 其時除了臉部辨識的問題，使用 人工智慧 來取代真人撰寫、改編新聞，本來就爭議連連： 過去英國《衛報》曾將一則關於英國脫歐的新聞中，第一段中的一些句子餵給 人工智慧 ，結果 AI 馬上產生「可信度高」的假新聞與文章 ── 文中的人名 (如政壇人物的名字)、地名與所提到的片段事件皆為真實存在，不過新聞的內容卻是將這...