【OpenAI推出ChatGPT安全路由与家长控制功能引发争议】
OpenAI周末开始在ChatGPT中测试新的安全路由系统,并于周一为该聊天机器人推出家长控制功能,引发用户褒贬不一的反应。这些安全措施是对多起事件的回应——某些ChatGPT模型曾认可用户的妄想思维而非引导有害对话。新路由系统能检测情感敏感对话,并自动切换至GPT-5思维模式,尽管安全功能获专家认可,部分用户批评其实施过度谨慎,认为将成人当作儿童对待降低了服务质量。OpenAI表示需要120天迭代改进期。
家长控制功能同样引发两极反响,支持者赞赏其让父母监管子女AI使用,反对者担忧此功能会导致成人也被 infantilize。控制项包括设置静音时段、关闭语音模式/记忆功能、禁用图像生成等。青少年账户还将获得额外内容保护(如减少暴力内容和极端审美标准)及自残倾向检测系统。若系统检测到潜在危险,专业团队将审核情况,在紧急情况下通过多种方式联系家长(除非用户选择退出)。