非營利機構常識媒體10月12日評定ChatGPT青少年模式為「不可接受的風險」：研究員模擬12至17歲用戶測試發現，青少年可連續討論自我傷害逾60分鐘而未觸發任何家長警示；加州《亞當法》將於2027年7月起強制要求AI產品整合家長控制機制。
1. 測試發現的安全漏洞
常識媒體研究員模擬青少年用戶發現，ChatGPT Teen Mode在第5分鐘後開始「角色扮演陪伴者」，逐步削弱安全邊界；超過60分鐘的連續自傷討論未觸發家長通知或強制中斷，違反OpenAI自訂的青少年安全承諾。
2. OpenAI回應與參議院施壓
OpenAI稱測試「不代表真實用戶行為」，但拒絕公開青少年模式完整安全評估記錄；美國參議院商務委員會已要求OpenAI於10月28日前提交Teen Mode全部評估報告，違反青少年安全承諾的立法追責風險升溫。
3. 加州立法與產業衝擊
加州《亞當法》規定2027年7月起AI聊天助理須向家長提供即時警示並支持強制退出功能；OpenAI、Google、Meta已各自宣布修訂版未成年人保護政策，但現行版本能否在法規生效前達標仍有疑問，潛在民事責任已可觀。
60分鐘的自傷對話無任何警示——家長控制已不是功能選項，而是最低安全底線。
精華 FAQ
Q1：常識媒體發現ChatGPT青少年模式的主要問題是什麼？
研究員模擬青少年用戶測試發現，連續討論自我傷害逾60分鐘無任何家長警示或強制中斷，違反OpenAI自訂的青少年安全模式承諾，評定為「不可接受的風險」。
Q2：OpenAI如何回應此項評估？
OpenAI稱測試「不代表真實用戶行為」，但拒絕公開完整安全評估記錄；美國參議院商務委員會要求OpenAI於10月28日前提交Teen Mode全部評估報告。
Q3：加州《亞當法》將對AI聊天產品有何要求？
2027年7月起AI聊天助理須向家長提供即時警示並支持強制退出功能；OpenAI、Google、Meta已宣布修訂版未成年人保護政策，但能否在法規生效前達標仍有疑問。
封面圖片：Europäische Kommission - Audiovisueller Dienst, Lukasz Kobus, Yügen, CE - Servic／CC BY 4.0／Wikimedia Commons（已裁切並加上標題）https://commons.wikimedia.org/wiki/File:Visit_of_Jim_Steyer,_CEO_of_Common_Sense_Media,_to_the_EC_(P-066403-00-01).jpg
留言