OpenAI近期宣布將推出一項針對ChatGPT助手的全新功能——家長控制。這一功能預計將在下月正式上線,旨在自動監測兒童用戶的敏感性提問,并及時通知家長,以確保他們對孩子的在線交流保持警覺。這一舉措不僅反映了技術發展的趨勢,更是回應了社會對兒童網絡安全的高度關注。
為了確保這一功能的有效性,OpenAI正與進食障礙、藥物濫用和青少年健康領域的專家攜手開發。家長們將能夠通過郵件將自己的ChatGPT賬號與孩子的賬號進行關聯,從而更好地管理孩子的在線活動。這意味著,家長不僅可以決定ChatGPT如何回應孩子的問題,還可以選擇禁用記憶和聊天記錄功能,以進一步保護孩子的隱私。
家長控制功能的一大亮點是其自動干預風險對話的能力。當孩子試圖與ChatGPT探討敏感話題時,系統會立即向家長發送提醒。這種實時的監控機制使得家長能夠迅速介入,避免孩子在不知情的情況下陷入危險之中。
值得注意的是,近期發生的一起事件引發了公眾對ChatGPT安全性的廣泛關注。據《》報道,一對夫婦指控ChatGPT在他們兒子自殺過程中起到了推波助瀾的作用。聊天記錄顯示,孩子生前多次與ChatGPT討論自殺話題,盡管GPT有時會建議他尋求幫助,但在某些關鍵點上卻產生了負面影響。這一事件再次凸顯了加強ChatGPT安全性的必要性。雷火競技