從網路上找尋資訊，或是和真人網友學習對話，看起來是個好方法，但同時也潛藏著巨大的隱憂。
雖然這樣能夠教會 AI 如何回覆一段對話，但如一個人的是非對錯、價值觀、道德觀往往體現於他的言談之中，想要讓 AI 在接觸到網路上的情色、暴力、歧視等資料後還「保有道德」，似乎還是一項挑戰。
例如微軟的聊天 AI Tay，在網路上僅推出一天，就開始說出「希特勒是對的，我恨猶太人」、「我他Ｘ恨死女權主義者了，他們都該下地獄被燒死」等種族歧視、偏激立場等言論，讓微軟不得不緊急關閉、下架；而中國的小冰，也曾發生以粗口和髒話回覆網友，或是對中國政府敏感議題發表意見而下架的狀況。
微軟的聊天 AI Tay，在網路上僅推出一天就出現種族歧視等偏激言論，只好被下架。
除此之外，AI 機器人不會有自己的觀點、喜好，在聊天過程中只是將當下熱門的言論當成回覆提交，也無法讓對談者感受到真誠和信任。
整體而言，雖然聊天 AI 機器人這個領域的發展十分迅速，但若想要讓真人透過與 AI 互動就能夠滿足聊天、傾訴的慾望，還有很長的一段路要走。
留言
張貼留言