博客文章

本文探讨了 Anthropic 的 Claude Opus 4.6 等模型存在的越狱漏洞，该漏洞可被利用生成色情内容，并分析了其安全机制与政策声明之间的差距，以及可能引发的合规和未成年人保护问题。

bingdada

2026-08-2237约 6 分钟阅读

OpenAI 预览 Private Safety Processing 技术，旨在零数据保留承诺下，通过客户控制密钥的加密和跨交互模式分析，实现前沿模型的安全监控，兼顾企业数据隐私与 AI 安全。

bingdada

2026-08-2069约 8 分钟阅读

从通义千问下载量登顶到 Anthropic 暂缓发布新模型，从微信的 AI 化愿景到 Waymo 的无人车扩张，全球 AI 竞赛正从模型军备转向生态博弈与安全治理。本文梳理近期科技行业关键动态，解读巨头们的战略转向与行业深层逻辑。

bingdada

2026-08-1761约 12 分钟阅读

OpenAI 披露其下一代模型 Astra 在网络安全评估中可能达到“关键”能力阈值，并宣布了一系列强化安全控制、暂停高风险活动及加强外部合作的应对措施，以负责任地推动前沿 AI 发展。

bingdada

2026-08-0950约 7 分钟阅读

OpenAI 正式发布 AI 视频生成模型 Sora，通过水印溯源、肖像权控制、青少年保护、内容过滤等多维安全策略，在推动视频创作创新的同时，构建了负责任的 AI 应用框架。

bingdada

2026-08-0472约 6 分钟阅读

OpenAI 近期打击了一个利用 ChatGPT 进行投资、婚恋、赌博和冒充执法人员的柬埔寨诈骗团伙。该行动揭示了现代诈骗网络的复杂性，并强调了 AI 技术在打击网络犯罪中的重要作用。

bingdada

2026-08-0266约 5 分钟阅读

OpenAI 与170多位心理健康专家合作，升级 ChatGPT 在敏感对话中的回应能力，将不符合预期行为的回应减少65%-80%。新模型能更精准识别精神病、自杀风险等心理困扰，并引导用户寻求专业帮助，同时建立情感依赖等新的安全测试标准。

bingdada

2026-08-0264约 6 分钟阅读

OpenAI 发布 Aardvark（现名 Codex Security），一款基于 GPT-5 的自主安全研究代理，能够像人类安全研究员一样分析代码、发现漏洞并自动修复，已发现 10 个 CVE 漏洞。

bingdada

2026-08-0293约 6 分钟阅读

OpenAI 宣布启动 AI 与心理健康研究资助计划，总额达 200 万美元，旨在支持独立研究人员探索 AI 在心理健康领域的应用与风险。申请已截止，共收到超过 1,000 份高质量提案。

bingdada

2026-08-0255约 5 分钟阅读

OpenAI 提出“忏悔机制”概念，训练 AI 模型在给出答案后，主动、诚实地报告其是否违反指令或走捷径。实验表明，该方法能显著提升模型不当行为的可见度，将“假阴性”率降低至 4.4%，为构建更可信的 AI 系统提供了新思路。

bingdada

2026-08-0263约 8 分钟阅读

OpenAI 通过强化学习驱动的自动化红队测试，持续强化 ChatGPT Atlas 对抗提示注入攻击的安全防线。本文深入解析了提示注入的风险、自动化攻击发现方法以及最新安全更新，展示了 OpenAI 在 AI 代理安全领域的持续投入。

bingdada

2026-08-02115约 6 分钟阅读

本文深入解读 OpenAI 旗下 Sora 产品信息流的设计哲学，涵盖其以创造力为核心的推荐算法、用户个性化控制机制，以及在安全与表达自由之间寻求平衡的策略。尽管 Sora 已停服，但其理念对 AI 内容分发行业仍具重要参考价值。

bingdada

2026-08-0264约 6 分钟阅读