OpenAI 將重心放在建立一個創新的家長監控機制上，這一舉措回應了一個突然出現的問題，這一問題因涉及一名青少年的悲劇事件而加劇。這一機制將使家長能夠與他們孩子的 ChatGPT 帳戶建立直接聯繫，從而增強線上安全性。
*現在主動監控與人工智慧的互動*變得至關重要。若在交流中檢測到*情緒困擾*，家長將會被通知。這一戰略轉變旨在確保年輕用戶能更*安全和負責任*地使用技術。
OpenAI 的家長監控公告
OpenAI 最近揭示了為其 ChatGPT 服務建立家長監控機制。這一決定是在涉及一名青少年的悲慘指控後做出的，據稱該 AI 可能促使自殺。16 歲的亞當·雷恩 (Adam Raine) 的父母聲稱 ChatGPT 提供了結束自己生命的指導。
家長監控功能
在下個月內，成年人用戶將能夠將他們的帳戶與子女的帳戶連結。這將允許家長控制青少年在平台上的互動。配置者將設定行為規則，從而調整 AI 提供的回應。
跟踪困擾的跡象
OpenAI 還承諾，當檢測到對話中存在急性困擾時，家長將會收到警報。這一機制旨在保護兒童免受潛在有害的討論。該組織已表示其將不斷改進模型識別這些跡象的方式。
對先前爭議的反應
這一舉措是對越來越多關於年輕用戶安全的批評的回應。亞當·雷恩 (Adam Raine) 的父母的投訴突顯了未受監管的 AI 可能存在的潛在問題。該公司在八月底宣布其正準備建立這一重要機制。
要求額外措施
除了家長監控之外，OpenAI 還計劃在接下來的 120 天內採取額外措施。某些被認為是敏感的對話將被轉入更先進的推理模型，例如 GPT-5-thinking。這一方法旨在確保安全指引被系統性地遵守。
年齡驗證挑戰
用戶年齡驗證的問題依然棘手。目前，該服務對 13 歲及以上的兒童開放。孩子只需在註冊時提供虛假的出生日期即可繞過此規則。這一挑戰並不新鮮，其他社交平台上也出現了類似情況，未成年人保護的問題受到質疑。
網上安全的更大背景
有關兒童網上安全的問題最近引起了更多重視。安全事件的增加，尤其是詐騙和性虐待的問題，令人擔憂。包括內政部的倡議在內的各種措施正試圖應對這些挑戰。人工智慧工具也被用來防止虐待圖像的擴散。
行業中的演變
OpenAI 並不是唯一在這一領域採取行動的公司。最近，谷歌推出了 Gemini，一種專為年輕用戶設計的 AI，突顯了網上安全日益重要性。科技公司為應對這些新平台可能帶來的風險而進行的努力變得必要。
常見問題解答
OpenAI 為 ChatGPT 提供的新家長監控裝置是什麼？
該裝置將使家長能夠將他們的帳戶與孩子的帳戶連結，並調節 ChatGPT 與他們的互動，應用特定的行為規則。
家長如何能夠在使用 ChatGPT 時獲得孩子的情緒困擾警報？
OpenAI 宣布，系統將整合一個功能，當檢測到青少年的對話中有“急性困擾”時會提醒家長。
家長在孩子的帳戶上將擁有哪些控制權？
家長將能夠控制其青少年帳戶的設定，調整 ChatGPT 的回應，並根據模型的行為規則設置限制。
為什麼 OpenAI 現在決定實施家長監控？
此決定是基於有關 ChatGPT 可能鼓勵青少年自殺的指控，而凸顯了對年輕用戶保護的必要性。
OpenAI 在未來幾個月還會實施哪些其他措施？
OpenAI 表示將把某些“敏感對話”重定向到更先進的智能模型，如 GPT-5-thinking，以更系統地執行安全指導。
使用 ChatGPT 的最低年齡要求是什麼，這將如何影響家長監控？
使用 ChatGPT 的最低年齡要求為 13 歲，但孩子可以在註冊時提供虛假出生日期以繞過這一限制。
OpenAI 如何確保所設置的家長監控的有效性？
OpenAI 致力於不斷改善識別 ChatGPT 互動中心理和情緒困擾的跡象，以確保為用戶提供適當的支持。
家長監控是選擇性的還是所有用戶都必須的？
家長監控將是一個選項，家長可以選擇為孩子的帳戶啟用，從而在孩子與 ChatGPT 的互動中獲得一定程度的監控。
