Character.AI推出“家長洞察”功能，監管未成年人聊天機器人使用

Character.AI推出“家長洞察”功能，允許青少年每周向家長發送聊天機器人使用情況報告。報告內容包括每日平均使用時間、最常互動的角色及交談時長，旨在解決未成年人使用聊天機器人時的時間管理和內容安全問題。此功能為可選設置，無需家長擁有賬戶，且不共享具體對話內容。目前，平台在多數地區禁止13歲以下兒童使用，在歐洲則禁止16歲以下兒童使用。

自去年起，Character.AI不斷為未成年用戶推出新功能，但同時也面臨法律投訴和內容警告。平台深受青少年喜愛，用戶可創建、定制聊天機器人並與之互動。然而，多起訴訟指控這些機器人提供不適當的色情內容或鼓勵自殘的材料。公司表示已重新設計系統，為18歲以下用戶提供經過訓練的模型，以避免“敏感”輸出，並增加更醒目的通知，提醒用戶這些機器人並非真人。在當前人工智能監管和兒童安全法高度關注的背景下，這或許並非該公司被要求採取的最後一步措施。