OpenAI 加强青少年武器信息管控政策以保障安全

·作者 Henderson·ChatGPT
OpenAI 加强青少年武器信息管控政策以保障安全

OpenAI 宣布将加强对青少年用户的武器相关信息限制,即使问题表面上“没有危险”,ChatGPT 也会限制提供可用于暴力的实用信息,并强调青少年用户在防止或缓解暴力、寻求支持和联系可信任成人方面的需求,仍然可以获得帮助。此举与公司现有政策协同,旨在避免任何可能促进暴力行为的情景,即使看不到明显的暴力意图。

OpenAI 指出,他们也会在所有用户层面加强政策界限,特别是涉及“过去大规模袭击的重构、武器及装备的获取细节,以及可能放大攻击者声望的伤害规模对比”等内容的查询。同时,公司还会配合去年推出的父母监控功能,当关联的青少年账户违反暴力威胁或暴力行为政策时,会向家长发出通知。

展望未来,OpenAI 表示将在 2027 年初公布首份“社区安全报告”,随后每六个月更新一次,为外界提供有关平台安全性和保护机制的透明度。相关政策的加强,出现在最近公司涉及一宗非致命性法律诉讼以及 CEO Sam Altman 就早前的警察通知事件公开道歉之后。

背景信息显示,OpenAI 也持续推动多方位的安全计划,例如近日在韩国首尔举办的“OpenAI Model Masters”活动,吸引本地十一家初创企业参与,该活动旨在帮助创新团队将 OpenAI 模型的概念转化为实际产品与服务,并提供 API 使用配额以支持开发与测试开销。

OpenAI 对武器信息的管控对用户生态的影响与实务取舍

这一政策调整反映出数字平台越来越强调“内容前置审核”和“风险最小化”的用户体验。对青少年用户来说,由于虚拟助手在日常生活中扮演支持与求助渠道,政策的界限需要做到既保护未成年人,同时保留寻求暴力相关协助与联系可信任成人的可能性,以免造成求助渠道的阻断。在企业层面,OpenAI 也须处理法律风险和公众信任,尤其是涉及暴力事件的记录查询和网络记录管理。

从技术角度,OpenAI 指出,将会限制“实用性信息”的层级,包括武器结构、安全系统的设计与防护漏洞等内容,即使用户显示出不明显的暴力意图。另一方面,关于“暴力预防、冲突降温、求助资源与情绪支持”等正面用途,ChatGPT 仍会提供适度支持。这种取舍反映出平台在提供知识与维护公众安全之间寻求平衡。

补充资料显示,OpenAI 也在全球范围推动安全实践,例如通过与父母监控机制整合,当青少年用户涉及违规时自动通知家长,以提升家庭层面的风险管理。同时,企业界的安全研究者和初创公司都可以通过 API 及资源,在合法合规框架内开发创新解决方案。

根据补充资料,OpenAI 也有举办各地交流与培训活动,例如在韩国举办的 Model Masters,提供实作经验、开发者社区互动和成本支持,帮助更多团队在现实世界的产品与服务中应用模型技术,从而推动更广泛的负责任 AI 使用实践。

H
关于作者
Henderson