霸凌退散!人工智慧竟然也能派上用場!?
是什麼讓 IG 卯起來，導入 AI 人工智慧來打擊網路霸凌言論？其實 Instagram 上線初衷原本是倡導素人攝影用，但是用戶自有想法，加上族群以滲透性強大的學生居多，讓 IG 被濫用為校園流言與霸凌的集散地。使用 IG 霸凌的方法包含開假帳號張貼對方的醜照、散播惡意圖文與謠言等。
因此 IG 被質疑，助長了青少年自殺。
同年在日本熊本，一名女高中生的照片被人盜用開設假帳號，還發了邀請給這名女生的親友們，之後再利用這個假帳號貼上一些猥褻的圖片以及文字，偶爾還會從她本人的 IG 偷圖片以及文字，貼在假帳號上。女高中生雖然屢次向 IG 提出檢舉，但是只要一個假帳號被關掉，另外一個假帳號就又會出現。女孩在身心俱疲以及常被人誤會的情況下，最後同樣也選擇了用自殺來解決問題。
還有更多大大小小的網路霸凌事件層出不窮，美國 Pew 研究中心去年調查，72% 的美國青少年擁有 Instagram 帳號，當中竟然有高達 59% 的用戶曾遭受網路霸凌。
而為了防止霸凌事件再發生，IG 從去年開始，乾脆導入 AI 人工智慧技術，自動偵測惡意圖文，並將相關貼文轉送到 IG 官方團隊進行人工審核。
IG 的 AI 會自動偵測疑似霸凌的言論，並在用戶發文前會先再三確認
IG 今年更推出新功能，假如 AI 認定你輸入的內容具有言語暴力的疑慮，系統就會在你發文前詢問「你確定想張貼這則貼文嗎？」，避免用戶因一時衝動而散發霸凌言論，傷及他人。
讓用戶自己隱藏，讓他的言論消失在你的親友圈中！
雖然 IG 的 AI人工智慧能自動偵測霸凌言論，但是 人工智慧 也是要經過一番「機器學習」的訓練過程才會知道哪些字跟惡意霸凌有關，因此難免會有漏網之魚。這次 Instagram 推出的另一項功能，便是讓用戶可自行隱藏掉特定人的言論，且不會被那個人發現。
IG 可讓用戶在霸凌者不知的狀況下，自行隱藏來自霸凌者的所有言論，讓霸凌言論只被霸凌者自己看到
不同於封鎖用戶功能，被隱藏掉的那位特定人士依舊能在你的貼文上留言、進行其他活動等等，但其他人不會看見這位被限制的用戶所留下的內容，只有他自己能看見他留下的言論。另外，這位被限制的用戶也無法看見你的即時動態，更不能知道你是否讀過他的私訊、言論等等。
Instagram的負責人亞當．莫賽里（Adam Mosseri）在今年 4 月底舉辦的 F8 開發者大會上，就表示目前他們的焦點在於解決霸凌問題上。如今推出的新功能，可說是兌現了當初的承諾。杜絕霸凌是條漫長的過程，這次推出的新功能，不過是這條漫漫長路上的兩小步，未來他們也將繼續投入解決霸凌問題，並會有更多後續更新，相信機器學習會有更多貢獻！
相關文章：
常常來不及寫下別人的話嗎?你該感謝人工智慧,現在有解藥了!
沒想到人工智慧的辨識功能已經這麼厲害了!?還不快來瞧瞧!
人工智慧的魔法,像哈利波特般,讓靜態照片動起來!
網頁設計學習零負擔-簡易的HTML5教學
暑假快到了！與其讓兒子盲目拚學測，我寧可讓他先選擇人生方向~
權威指南說:Java課程是一生必學的事!你學會了嗎?
人人都能是工程師！台灣 IT 培訓中心推「找到工作再付學費」專案，要試試嗎？
