據《日本經濟新聞》網站9月4日報道,美國開放人工智能研究中心(OpenAI)2日宣布,在青少年用戶廣泛使用聊天生成預訓練轉換器(ChatGPT)之際,引進家長可以對未成年子女的賬戶進行管理的機制。鑒于此前發生多起青少年與人工智能(AI)交談后自殺的事件,此舉旨在防范AI對未成年人心理健康造成負面影響。
OpenAI將在10月上旬前推出家長控制功能,使父母能夠監督子女使用ChatGPT服務的情況。通過綁定家長與子女的賬戶,系統將允許家長監控ChatGPT是否提供與孩子年齡相符的回答。系統如果判斷孩子存在嚴重心理問題,則會向家長發送提醒。
ChatGPT會根據設置情況反復給出符合用戶偏好的回答,但有觀點指出,這一功能可能導致用戶產生心理依賴。新功能支持關閉聊天記錄保存及興趣偏好記憶功能。
今年4月,一名16歲男孩在與ChatGPT討論自殘行為后自殺身亡。其居住于美國加利福尼亞州的雙親已于8月對OpenAI及其首席執行官薩姆·奧爾特曼提起訴訟。
2024年發生于美國的另一起類似訴訟案例是,一名青少年在使用“角色”人工智能公司開發的對話式AI后自殺。
AI或將對青少年心理健康產生影響,人們對這一問題的擔憂情緒日益加劇。在這一背景下,OpenAI正加緊采取對策。OpenAI將與醫生等專業人士開展合作,在未來4個月內集中推進安全對策。
根據OpenAI使用條款,ChatGPT要求用戶年滿13周歲,18歲以下使用者需獲得監護人同意。(編譯/馬曉云)
互聯網新聞信息服務許可證:增值電信業務經營許可證:皖B2-20080023雷火競技