Bingdada 技术博客Bingdada 技术博客
首页博客SEOGEOAEOAI工具关于
登录注册
Logo

Bingdada 技术博客

专注于SEO搜索引擎优化和GEO生成式引擎优化以及未来人工智能发展趋势的技术博客

快速链接

  • 首页
  • 博客文章
  • 关于我们

联系方式

  • 398848662@qq.com

订阅我们的 Newsletter,获取最新的 SEO 和 GEO 技术资讯。

© 2024 Bingdada 技术博客. All rights reserved.

首页博客AI人工智能ChatGPT 推出“信任联系人”功能:在关键时刻为你连接值得信赖的人
ChatGPT 推出“信任联系人”功能:在关键时刻为你连接值得信赖的人
AI人工智能

ChatGPT 推出“信任联系人”功能:在关键时刻为你连接值得信赖的人

bingdadabingdada
八月 2, 202655 次阅读约 6 分钟阅读
快速回答

ChatGPT 推出“信任联系人”功能,允许成年用户指定一位信任的人,在检测到用户可能有自残风险时通知对方,以提供额外的支持层。该功能由心理健康专家指导开发,旨在促进社会联系,降低自杀风险,同时保护用户隐私。

核心要点
  • 什么是“信任联系人”?
  • “信任联系人”如何工作?
  • 由临床医生和安全专家指导
  • 在每个阶段优先考虑安全
目录

目录

  • 引言
  • 什么是“信任联系人”?
  • “信任联系人”如何工作?
  • 由临床医生和安全专家指导
  • 在每个阶段优先考虑安全
  • 总结
  • 相关阅读
  • 关于 Bingdada

引言

人们使用 ChatGPT 学习、探索想法、解决问题,并反思个人问题。有时,这些对话可能涉及某人正在挣扎或寻求支持的时刻。我们的目标是设计能够深思熟虑地回应敏感对话的系统,并鼓励人们在需要时与现实世界的帮助建立联系。

什么是“信任联系人”?

今天,我们开始推出“信任联系人”(Trusted Contact)功能,这是 ChatGPT 中的一项可选安全功能。它允许成年人提名一个他们信任的人,例如朋友、家人或看护者。当我们的自动化系统和经过培训的审核员检测到注册用户可能讨论自残行为,且表明存在严重安全问题时,该信任联系人可能会收到通知。“信任联系人”旨在提供额外的支持层,与 ChatGPT 中已有的本地化求助热线相辅相成,帮助用户在危机时刻与他们信任的人建立联系。 “信任联系人”建立在家长控制安全通知的基础上,后者允许家长或监护人在关联的青少年账户出现急性困扰迹象时收到警报。现在,我们扩展了安全警报选项,任何年满 18 岁的用户都可以选择添加他们信任的人作为“信任联系人”。

“信任联系人”如何工作?

专家指南指出,社会联系是降低自杀风险最重要的保护因素之一。“信任联系人”旨在鼓励用户与已经信任的人建立联系。它不能替代专业护理或危机服务,而是支持处于困境中的人的多层保障措施之一。ChatGPT 仍会在适当时鼓励用户联系危机热线或紧急服务。 > “心理科学一致表明,社会联系是一个强大的保护因素,尤其是在情绪困扰时期。帮助人们提前确定一个值得信赖的人,同时保留他们的选择和自主权,可以在最需要的时候更容易地寻求现实世界的支持。”

—— 美国心理学会首席执行官 Arthur Evans 博士 “信任联系人”遵循以下步骤: 1. 用户可以从 ChatGPT 设置中添加一个成年人(全球 18 岁以上,韩国 19 岁以上)作为他们的“信任联系人”。

  1. “信任联系人”将收到一封邀请函,解释其角色,并且必须在一周内接受邀请,该功能才能激活。如果“信任联系人”拒绝,用户可以选择添加另一个成年人。
  2. 如果我们的自动监控系统检测到用户可能以表明严重安全问题的方式谈论自残,ChatGPT 会通知用户我们可能会通知他们的“信任联系人”,并鼓励用户使用建议的对话开场白联系他们的“信任联系人”。
  3. 此后,一个由经过专门培训的人员组成的小团队会审查情况。如果这些审核员确定对话可能表明存在严重安全问题,ChatGPT 将通过电子邮件、短信或应用内通知(如果他们有 ChatGPT 账户)向“信任联系人”发送简要通知。
  4. 该通知有意保持有限。它分享自残行为以潜在令人担忧的方式被提及的一般原因,并鼓励“信任联系人”进行确认。为了保护用户隐私,通知不包含聊天细节或记录。通知还包含一个链接,指向用于处理敏感对话的专家指南。
  5. 用户可以随时在设置中删除或编辑他们的“信任联系人”,“信任联系人”也可以随时通过我们的帮助中心自行删除。 虽然这些严重的安全情况很少见,但一旦发生,我们的系统旨在支持及时的审查和响应。虽然没有任何系统是完美的,并且发送给“信任联系人”的通知可能并不总是准确反映某人的经历,但每条通知在发送前都会经过训练有素的人工审查,我们努力在一小时内完成这些安全通知的审查。

由临床医生和安全专家指导

我们在临床医生、研究人员以及专门从事心理健康和自杀预防的组织的指导下开发了“信任联系人”。这项工作得到了我们的全球医生网络(Global Physicians Network,覆盖 60 多个国家的 260 多名持证医生)和我们的福祉与人工智能专家委员会(Expert Council on Well-Being and AI)的支持。我们还与包括美国心理学会在内的外部组织密切合作。 > “人工智能最大的承诺之一在于它如何促进真实的人际联系和心理安全。ChatGPT 的‘信任联系人’功能让我感到鼓舞,它朝着增强人类能力迈出了一步,尤其是在脆弱时刻。”

—— Munmun De Choudhury 博士,佐治亚理工学院交互计算教授,福祉与人工智能专家委员会成员

在每个阶段优先考虑安全

除了“信任联系人”之外,ChatGPT 还拥有保障措施,以在每个阶段引导敏感对话。我们持续改进系统如何回应对话中表达的不同风险级别:

  • 支持现实世界的帮助:在敏感时刻,ChatGPT 可能会鼓励人们联系紧急服务、危机热线、心理健康专业人员或他们生活中的可信赖人士。

  • 以关怀回应:我们与 170 多名心理健康专家合作,改进了 ChatGPT 检测和回应潜在困扰迹象、缓和对话以及在适当时引导人们寻求现实世界支持的能力。

  • 帮助用户控制时间:在某些情况下,ChatGPT 可能会建议在长时间使用后休息一下或离开,以促进健康的科技使用习惯。

  • 拒绝有害请求:ChatGPT 经过训练,拒绝提供自杀或自残的指示。当用户请求此类信息时,系统会进行适当的回应。

总结

“信任联系人”是 OpenAI 在安全领域迈出的重要一步,旨在通过技术手段促进真实世界中人与人之间的联系,尤其是在用户最脆弱的时刻。这一功能不仅体现了对用户心理健康的关注,也展示了 AI 在提升社会福祉方面的潜力。随着技术的不断发展,我们将继续优化这些安全功能,确保 ChatGPT 成为一个既智能又负责任的伙伴。


相关阅读

  • OpenAI发布GPT-5.2系统卡更新:安全措施与性能全面升级

  • OpenAI 内部揭秘:如何用 AI 重塑客户支持运营模式

  • CRED如何借助AI打造高端会员体验:对话首席技术官Swamy Seetharaman

关于 Bingdada

Bingdada 是一个专注 SEO、GEO(生成式引擎优化)与 AEO(答案引擎优化)的内容平台,由资深内容编辑、SEO 技术工程师与 AI 研究专家组成的团队持续运营。我们追踪搜索引擎与生成式 AI 的最新动态,为读者提供准确、实用、可落地的方法论与行业洞察。 编辑团队:内容策划 · 技术编辑 · AI 研究组 网站:bingdada.com © 2026 Bingdada. 保留所有权利。

目录

  • 引言
  • 什么是“信任联系人”?
  • “信任联系人”如何工作?
  • 由临床医生和安全专家指导
  • 在每个阶段优先考虑安全
  • 总结
  • 相关阅读
  • 关于 Bingdada
黄金广告位 · 限时招商
广告位招商中

把品牌放进读者的阅读流

文章内广告位,高注意力场景,适合新品发布与活动招募。

商务合作

标签

#ChatGPT#OpenAI News#AI安全#信任联系人#心理健康
bingdada

bingdada

SEO & GEO 技术探索者,专注于搜索引擎优化和生成式引擎优化。

相关文章

从英伟达内部实践看ChatGPT Work如何重塑企业知识工作流
AI人工智能

从英伟达内部实践看ChatGPT Work如何重塑企业知识工作流

英伟达内部实践显示,ChatGPT Work正帮助企业团队将信息整合工作自动化,每周节省16小时,并将原型开发周期从数周缩短至数天。这一案例揭示了AI工作流从工具到组织资产演进的趋势。

8月 25约 9 分钟阅读
GPT-5.6 登陆 Kiro:AI 编程成本效率迎来新拐点
AI人工智能

GPT-5.6 登陆 Kiro:AI 编程成本效率迎来新拐点

OpenAI 将 GPT-5.6 系列模型(Sol、Terra、Luna)集成至 Kiro 开发代理,通过规格驱动方法实现约 82% 的成本降低,标志着 AI 编程从能力竞赛转向成本效率竞争。

8月 25约 6 分钟阅读
AI安全新纪元:OpenAI如何为关键网络能力时代重新校准模型开发节奏
AI人工智能

AI安全新纪元:OpenAI如何为关键网络能力时代重新校准模型开发节奏

OpenAI因模型网络能力逼近关键门槛而调整开发策略,强调安全需贯穿训练全周期。文章解析其技术升级,并对比国内AI安全建设路径。

8月 24约 10 分钟阅读

订阅我们的 Newsletter

获取最新的 SEO 与 GEO 技术资讯。

我们尊重您的隐私,随时可以取消订阅。

评论 ({count}) (0)

登录后即可参与讨论

登录注册
还没有评论,来抢沙发吧