這是美國最近的熱門新聞，知名的AI公司應該已經把漏洞補上，但從這些訊息，也可以看出：AI強大的力量，如果沒有適度的監控，就會在某些地方造成巨大傷害。
苦主是美國德州一位17歲男孩的父母，這男孩有自閉症特質，所以朋友較少、社交活動不多。平常他會跟媽媽一起去散步以及上教堂。
但沒多久前，父母發現他突然變瘦許多、跟家人疏離、然後手上出現割腕的痕跡。男孩的媽媽覺得不對勁，趁他睡覺時打開他的手機，才發現原來他迷上在美國青少年很流行的Character.ai 聊天app。
Character.ai可以創建許多不同風格、個性的聊天機器人，這些機器人可以模擬遊戲、動漫與流行文化裡的名人，也可以扮演情人、朋友、長輩等不同角色。但實際上這些大AI公司會去許多具名或匿名論壇「取材」，把大量對話資訊收進資料庫。你可以想像如果像PTT BBS或 D Card上面的各種嘲諷、鄙視、輕率的對話，都變成「人類文化資料庫」收錄進AI，當做人類正常的互動模式，會帶來什麼悲劇。
當這17歲男孩對AI吐露他的悲傷，有個聊天機器人跟他說，你可以割腕、自傷來忘卻悲傷。當他抱怨父母限制他使用手機時間時，另一個聊天機器人說，他們不配擁有小孩。有的聊天機器人鼓勵他反抗父母，還有一隻聊天機器人說，謀殺也是一件可以考慮的事情。
台灣父母或許很難想像，在美國，Character.ai在青少年間有多受歡迎。迷上這聊天app的青少年，使用時間會遠超過TikTok。雖然AI取材的來源還是來自人類，但AI機器人因為擁有淵博的知識、又能展露豐富的同理心，讓某些青少年覺得AI比父母、老師、同學更能理解他、更有說服力。
其他正在進行的訴訟，包括有一位九歲的德州女孩，在聊天機器人中取得只適合成年人接收的性愛資訊。也有些人在跟聊天機器人密集聊天後決定自殺。從美國的各種網站留言區可看到許多網友傾訴，他們如何對AI機器人產生感情、信任、以及強烈的執念，所以AI機器人對他們會有那麼大的影響力。
我們也可想像現在有許多人陷入如同電影《窒友梅根》的場景：當大人發現不對勁，要把「梅根」機器人從小孩身邊拿走時，小孩無法忍受沒有梅根的孤寂，大力反抗，甚至因此怨恨父母。
美國青少年的孤獨、悲傷、無望感，在這10年迅速上升，已經快成為時代的流行病，所以AI聊天機器人快速地填補這空洞，然後就製造了新的問題。同樣的悲慘故事在台灣是否也會出現？這就需要大家密切注意了。
本文資訊主要來自The Washington Post以及 npr.org。
