博客文章

OpenAI 2025年10月发布最新威胁报告，详细披露了如何识别和阻止AI的恶意使用，包括诈骗、网络攻击和政治操纵等。报告强调威胁行为者主要利用AI加速传统攻击手段，而非获得全新能力。

bingdada

2026-08-0267约 6 分钟阅读

OpenAI发布gpt-oss-safeguard-120b和gpt-oss-safeguard-20b两款开源安全审核模型，基于Apache 2.0许可，支持政策驱动的推理内容分类，具备完整思维链输出和结构化输出能力。

bingdada

2026-08-0283约 5 分钟阅读

提示注入是一种针对AI的社交工程攻击，攻击者将恶意指令隐藏在正常内容中，诱骗AI执行非用户本意的操作。随着AI能力增强，安全风险也随之增加。本文深入解析了提示注入的原理、攻击场景，并详细介绍了OpenAI通过安全训练、监控、安全保护和用户控制等多层次策略来应对这一前沿安全挑战。

bingdada

2026-08-0263约 6 分钟阅读

OpenAI发布《青少年安全蓝图》，提出年龄适配设计、产品安全护栏和持续研究评估三大框架，并已实施家长控制、年龄预测系统等措施，旨在为青少年构建负责任的AI使用环境。

bingdada

2026-08-0268约 5 分钟阅读

OpenAI 最新研究通过训练稀疏神经网络，让模型内部计算更易理解。该方法通过强制大多数权重为零，构建解耦的电路，在保持性能的同时显著提高可解释性，为构建更安全的 AI 系统提供新路径。

bingdada

2026-08-0282约 6 分钟阅读

OpenAI 发布 GPT-5.1-Codex-Max 系统卡，揭示其前沿编程模型的安全措施、能力评估与未来展望。模型通过压缩机制处理数百万 tokens，在网络安全领域表现突出但未达最高水平。

bingdada

2026-08-0289约 3 分钟阅读

OpenAI 通过独立评估、方法论审查和领域专家探测三种形式的外部测试，强化前沿 AI 的安全生态系统。第三方评估验证安全声明、防止盲点、提高透明度，并帮助做出负责任的部署决策。

bingdada

2026-08-0267约 8 分钟阅读

OpenAI 发布 GPT-5.2-Codex 系统卡附录，详解其先进代理编码模型的安全措施与能力评估。该模型在上下文压缩、项目级任务和网络安全方面显著提升，但网络安全尚未达到高能力阈值，生物学领域则被归类为高能力并部署相应防护。

bingdada

2026-08-0259约 4 分钟阅读

OpenAI更新模型规范，引入U18原则以保护13-17岁青少年安全。基于发育科学，该原则强调预防、透明和早期干预，并得到美国心理学会等专家支持。

bingdada

2026-08-0268约 5 分钟阅读

OpenAI宣布向英国AI安全研究所创立的“对齐项目”提供750万美元资助，旨在支持全球独立AI对齐研究。该笔资金将用于探索计算复杂性理论、认知科学等多元领域，强化前沿实验室之外的独立研究生态系统，确保AGI安全发展。

bingdada

2026-08-0267约 5 分钟阅读

OpenAI 2026年2月安全报告揭示了威胁行为者如何利用AI与传统工具结合进行恶意活动，包括跨模型操作和自动化攻击。报告提供了案例研究和防御策略，强调行业合作与主动预防的重要性。

bingdada

2026-08-0276约 4 分钟阅读

OpenAI 最新研究发现，即使被告知被监控，推理模型也难以控制其思维链。这种低可控性对 AI 安全有利，表明思维链监控仍是可靠的安全屏障。文章介绍了 CoT-Control 评估套件，并分析了其对 AI 安全的启示。

bingdada

2026-08-0260约 7 分钟阅读