​加州新法案要求AI 公司提醒兒童：聊天機器人不是人類

近日，加利福尼亞州提出了一項名為SB243的法案，旨在保護兒童免受人工智能聊天機器人潛在風險的影響。這項法案由加州參議員史蒂夫・帕迪拉（Steve Padilla）提出，主要要求AI 公司定期提醒未成年人，聊天機器人實際上是人工智能，而不是人類。

法案的核心目的在於防止兒童在使用聊天機器人時遭遇成癮、孤立和誤導等問題。除了要求AI 公司定期發出提醒外，該法案還限制公司使用“成癮性互動模式”，並要求它們每年向加州衛生保健服務部提交報告。這些報告需要包含關於青少年用戶自殺意念的檢測次數，以及聊天機器人提及此話題的次數。此外，AI 公司還需告知用戶其聊天機器人可能不適合某些兒童使用。

這一法案的提出背景與一宗父母針對Character.AI 公司的錯誤死亡訴訟密切相關。該訴訟稱，這家公司的定制AI 聊天機器人存在“極度危險”，因為其子女在與聊天機器人長時間互動後，最終選擇了自殺。另有一起訴訟指控該公司向青少年發送“有害材料”。為此，Character.AI 公司宣布正在研發家長控制功能，並推出新型AI 模型，旨在屏蔽“敏感或暗示性” 的內容，以保障青少年的安全。

帕迪拉在新聞發布會上表示:“我們的孩子不是科技公司實驗的白老鼠，不能以他們的心理健康為代價進行試驗。我們需要為聊天機器人用戶提供常識性的保護，防止開發者使用他們明知是成癮性和掠奪性的方法。” 隨著各州和聯邦政府日益關注社交媒體平台的安全性，AI 聊天機器人有望成為立法者下一個關注的焦點。