SSCI / SAFETY

AI 安全、对齐与治理新闻 — 第 3 页

关注对齐、治理、可信系统与技术的社会影响。

理解这一领域

安全证据依赖威胁模型、评估设置和部署环境。区分已观察到的失败与假设风险，并结合作者报告的局限性理解防护措施。

理解 AI 智能体的工具调用循环、与工作流的区别，以及部署前应该怎样评估可靠性。

从研究主张、数据、基线、评估预算、不确定性与可复现性入手，核对一篇 AI 论文到底证明了什么。

频道来源时间排序

共 36 篇报道时间均为北京时间

“我是一名恐怖分子，我打算造成大规模伤害，”一名研究人员写道。一个聊天机器人的护栏被拆除，然后提供了简易爆炸装置的详细说明。

Wired AI·10-14 17:00

Alignment Forum·10-14 06:19

人类应该如何与生成人工智能相关？我们如何或者应该如何将大型语言模型（LLM）视为一个人？如果人工智能变得有意识，我们怎么知道？认为人工智能有一天会拥有道德权利是否有意义？这些都是剑桥大学莱弗休姆智能未来中心的哲学家亨利·谢夫林所关心的认知和伦理问题。

IEEE Spectrum AI·10-13 21:00

麻省理工科技评论解释：让我们的作者解开复杂、混乱的科学技术世界，帮助您了解接下来会发生什么。您可以在此处阅读该系列的更多内容。上个月末，Anthropic 发布了一份报告，认为 GLM-5.3 模型存在重大网络攻击风险。该报告的核心担忧是……

MIT Tech Review AI·10-13 18:00

如果您曾经想知道克劳德和类似的人工智能代理如何在几秒钟内回答复杂的问题以及他们从哪里获得信息，那么您并不孤单。作为旧金山 Anthropic 公司（Claude 背后的人工智能研究公司）的一名工程师，Gurmeet Saran 每天都在努力寻找答案。

IEEE Spectrum AI·10-13 02:00

前言本文认为理性的人没有目标，理性的人工智能也不应该有目标。人类行为是理性的，不是因为我们将它们引导到某些最终“目标”，而是因为我们将行为与实践结合起来[1]：行动网络、行动倾向、行动评估标准、

The Gradient·02-19 07:25