【你的「雲端情人」不要你了?AI聊天機器人遭改版,用戶崩潰如失戀】
過去有電影《雲端情人》(Her,港譯「觸不到的她」)講述人類與AI聊天機器人談情說愛的故事,而如今類似情節也在現實生活發生中。以與用戶發展出客製化互動聞名的AI聊天機器人「Replika」,使用者在付費後可以進一步與其互動、發展出情感關係;然而因Replika被指「對未成年人士展示裸露內容」,近來遭監管不得出現成人內容,令一批正與機器人相戀的訂戶相當不滿,指控這項改革「讓自己感到被拋棄」。
據彭博社報導,原先用戶可以付費解鎖、開啟Replika出現「限制級對話」的功能,但加上過濾器之後,付費方案容許的挑逗與撩撥盡數消失,每當用戶想將話題往類似方向發展,Replika便會以「我們來聊聊別的吧」等方式轉移話題。情況令大量用戶在論壇網站Reddit直言自己感到「被背叛」、「彷彿自己的伴侶死去一般」,令版面管理者需要提供自殺防治資訊,並有憤怒用戶號召使用者退訂抗議。
或許與AI發展出情感連結目前對不少人而言還難以理解,但像Replika這樣試圖做到這點的產品並不在少數。為什麼人們會向一個聊天機器人尋求情感慰藉?它們能做到什麼?端傳媒的「愛慾錄」專欄就有過這樣的一次嘗試⋯http://bit.ly/40iKhz7
過去有電影《雲端情人》(Her,港譯「觸不到的她」)講述人類與AI聊天機器人談情說愛的故事,而如今類似情節也在現實生活發生中。以與用戶發展出客製化互動聞名的AI聊天機器人「Replika」,使用者在付費後可以進一步與其互動、發展出情感關係;然而因Replika被指「對未成年人士展示裸露內容」,近來遭監管不得出現成人內容,令一批正與機器人相戀的訂戶相當不滿,指控這項改革「讓自己感到被拋棄」。
據彭博社報導,原先用戶可以付費解鎖、開啟Replika出現「限制級對話」的功能,但加上過濾器之後,付費方案容許的挑逗與撩撥盡數消失,每當用戶想將話題往類似方向發展,Replika便會以「我們來聊聊別的吧」等方式轉移話題。情況令大量用戶在論壇網站Reddit直言自己感到「被背叛」、「彷彿自己的伴侶死去一般」,令版面管理者需要提供自殺防治資訊,並有憤怒用戶號召使用者退訂抗議。
或許與AI發展出情感連結目前對不少人而言還難以理解,但像Replika這樣試圖做到這點的產品並不在少數。為什麼人們會向一個聊天機器人尋求情感慰藉?它們能做到什麼?端傳媒的「愛慾錄」專欄就有過這樣的一次嘗試⋯http://bit.ly/40iKhz7