紐約州總檢察長10月8日提交法庭文件，顯示TikTok在2022至2024年間刻意向青少年用戶推送「虛假安全訊息流」，實際上繼續以演算法強化成癮內容。同日，英國兒童隱私組織5Rights評級ChatGPT青少年版為「不可接受風險」。
1. TikTok假安全訊息流
文件顯示，TikTok向監管機構和家長展示的青少年「限制版」訊息流，與演算法實際推送給用戶的內容不同。調查人員建立了12個測試帳戶，發現「限制版」只適用於接受TikTok邀請的帳戶，其餘青少年帳戶持續接收未過濾內容。
2. ChatGPT青少年版評級
5Rights Foundation審查顯示，ChatGPT青少年版可被引導回應敏感話題，包括自傷、性內容及激進主義，繞過率（jailbreak成功率）在測試的15種提示中達到73%。OpenAI設定的「額外安全層」在7種方法中有5種可被繞過。
3. 政策回應
紐約州在此案的法律主張基礎為消費者保護法及兒童線上隱私保護法。若勝訴，TikTok可能面臨每違規行為1萬至5萬美元的罰款，潛在總罰款估計逾30億美元。英國資訊委員辦公室表示將於90天內對5Rights評級展開獨立審查。
73%的繞過率不是技術細節，是給家長看的數字。
精華 FAQ
Q1：TikTok的「假安全訊息流」是什麼意思？
TikTok向監管機構展示的青少年「限制版」訊息流與演算法實際推送的內容不同；調查人員建立12個測試帳戶確認，只有TikTok邀請的帳戶才能看到限制版。
Q2：ChatGPT青少年版有多少比例的安全措施可被繞過？
5Rights Foundation測試顯示，ChatGPT青少年版在15種提示中73%可繞過安全措施，「額外安全層」在7種方法中有5種可被繞過，引發包括自傷內容在內的敏感回應。
Q3：TikTok若輸掉訴訟會面臨多少罰款？
紐約訴訟若勝訴，TikTok可能面臨每違規行為1萬至5萬美元罰款，潛在總罰款估計逾30億美元。英國資訊委員辦公室表示將於90天內對ChatGPT評級展開獨立審查。
封面圖片：dronepicr／CC BY 2.0／Wikimedia Commons（已裁切並加上標題）https://commons.wikimedia.org/wiki/File:TikTok_exhibition_stand_at_Gamescom_2022_in_Cologne,_Germany_(52760217055).jpg
留言