通研院孵化的团队，也盯上了RSI
当AI越来越懂你，如何让智能真正属于你？
SSCI / TOPICS
AI 智能体专题：工具调用、工作流与评估 — 第 2 页
从代码助手到协作系统，追踪 Agent 的能力与边界。
理解这一领域
智能体围绕目标选择动作和工具，工作流则更多沿着预设步骤运行。可靠部署需要明确权限、可观察的结果，以及失败时的停止或升级机制。
产业动态
智慧城市的边缘人工智能：从洞察到认知行动
本白皮书解释了边缘人工智能和物理人工智能如何帮助城市超越被动监控。它展示了城市基础设施如何感知、推理并根据公共安全、交通和基础设施管理的实时条件采取行动。您将学到什么：从智慧城市到认知城市的转变如何依赖于推理和行动的基础设施，而不是仅监控的基础设施。
产业动态
人工智能研究人员将克劳德困在一个虚拟的荒岛上。它开始“玩”了。
如果你不告诉人工智能代理做任何事情，他们会做什么？答案看起来很像玩耍。研究人员反复将他们单独困在虚拟荒岛上 30 个小时，实验让人想起电影《荒岛余生》或《小鬼当家》。这些特工——绰号 Eko 的 Claude Opus 4.7 副本——能够……
AI 安全
在长上下文编码代理中捕获跨压缩的分割攻击
这项工作是在 Redwood Research 的 Tyler Tracy 的指导下通过 MARS V 奖学金进行的。 TL;DR 我们展示了 LCM 数据集：30 个长上下文（总标记数为 1.00-1.46M）匹配 Claude Code Sonnet 5 会话的诚实/攻击对。每个转录本都有四个压缩。攻击被分解为设置和执行，并由多个压缩分割。
AI 安全
强化学习可能不符合道德规范
“强化学习是邪恶的。” - Yoshua Bengio 我同意 Bengio 的观点，尽管我有一个在其他地方没有见过的论点。 [1] 强化学习危险的标准论点是这样的：强化学习要求你指定一个奖励函数；指定一个涵盖所有道德规范的奖励函数确实很困难；所以我们将指定一个道德代理；强大的优化器可以满足任何代理目标；...
AI 安全
研究人员如何对人工智能撒谎
这是一个为期两周的冲刺项目，作为红木研究实习的一部分完成。亚历山德罗 (Alessandro) 是主要 IC，由亚历克斯 (Alex) 监督。图 1：2022 年 12 月至 2026 年 10 月期间，292 项公共一致性评估（见附录）中包含每种类型谎言的百分比。在很多情况下，研究人员都会对模型撒谎，从实践角度 [1] 和科学角度来看，这些模型都是有用的。
研究前沿
AuditKIT：用于对大型语言模型和代理系统进行基准测试、判断和比较的统一评估脊柱
arXiv:2610.22511v1 发布类型：新 摘要：评估语言模型和代理需要结合基准准确性、基于判断的评估、运行时性能、工具使用行为和检索质量。接口、度量语义和跟踪格式的差异使这些比较变得复杂，并且可能隐藏智能体工作流中的失败。
研究前沿
QD-Rec：通过质量多样性进行开放式推荐演进
arXiv:2610.23470v1 公告类型：cross 摘要：开放式搜索与基础模型相结合产生了一些进步，例如更快的算法、开放数学问题的新结果以及自我改进的代理。我们将这种范式扩展到决策推荐，重点关注可能的选择集是固定的但选择它们的原因不是固定的决策。