Openai將父母控件添加到chatgpt

隨著AI巨人宣布計劃新的父母監督功能的計劃，Openai直接向有關父母提出上訴。

公司在 新博客文章 對於希望與聊天機器人互動不健康的互動的父母，它正在使用更強大的工具，因為Openai在一名加利福尼亞少年自殺死亡後面臨首次不當死亡訴訟。

這些功能將在接下來的120天內發布以及其他心理健康計劃，包括鏈接父母和青少年用戶之間的帳戶以及對聊天機器人互動的更嚴格掌握。護理人員將能夠設置Chatgpt的響應方式（根據模型的“適合年齡”的設置）並禁用聊天歷史記錄和內存。

該公司解釋說，Openai還計劃添加父母通知，當Chatgpt檢測到“急性遇險時刻”時，該通知。 OpenAI的專家小組仍在開發該功能。

OpenAI表示，除了為父母提供新的選項外，它將擴展其全球醫師網絡和實時路由器，該功能可以立即將用戶互動轉換為新的聊天或推理模型，具體取決於對話性上下文。 Openai解釋說，“敏感的對話”現在將轉移到公司的推理模型之一，例如GPT-5思考，以“提供更有幫助和有益的響應，無論一個人首先選擇哪種模型”。

在過去的一年中，AI公司因未能解決其聊天機器人的安全問題而受到審查，這越來越多地被年輕用戶用作情感伴侶。安全護欄有 被證明很容易越獄，包括有關聊天機器人如何響應危險或非法用戶要求的限制。

父母的控制已成為被指控加劇青少年心理健康危機，實現兒童性虐待材料的技術和社會公司的默認第一步，並且未能在線解決掠奪性參與者。專家說，但是這種特徵依靠父母而不是公司的積極性。其他兒童安全替代方案，包括應用程序市場限制和在線年齡驗證，仍然存在爭議。

隨著對其功效的辯論和關注，AI公司繼續推出其他安全護欄。 Anthropic最近宣布，其聊天機器人Claude現在將自動結束潛在的有害和虐待的互動，包括涉及未成年人的性內容 – 當前聊天被存檔時，用戶仍然可以開始另一次對話。面對日益增長的批評，Meta宣布將其AI化身限制在青少年用戶中，該計劃涉及減少可用的聊天機器人的數量，並培訓他們不要討論諸如自我傷害，無序飲食和不適當的浪漫互動之類的主題。