直接确定意志（DAV）以保障个人自主权
2004年，Eliezer Yudkowsky提出了连贯外推意志（CEV）作为友好ASI的框架来预测我们想要什么“如果我们知道更多，思考得更快，成为我们希望成为的人，一起成长得更远”，并采取行动。
SSCI / NEWS ARCHIVE
本周热读
依据最近 7 天站内阅读记录排序；同一读者每天每篇计一次。
AI 安全
产业动态
当 Cal AI 取得病毒般的成功时，一小群有影响力的人得到了回报
据 TechCrunch 报道，Cal AI 在两年内创造超过 3,000 万美元收入，并于 3 月被 MyFitnessPal 收购，交易金额未披露。
AI 安全
在长上下文编码代理中捕获跨压缩的分割攻击
这项工作是在 Redwood Research 的 Tyler Tracy 的指导下通过 MARS V 奖学金进行的。 TL;DR 我们展示了 LCM 数据集：30 个长上下文（总标记数为 1.00-1.46M）匹配 Claude Code Sonnet 5 会话的诚实/攻击对。每个转录本都有四个压缩。攻击被分解为设置和执行，并由多个压缩分割。
研究前沿
AuditKIT：用于对大型语言模型和代理系统进行基准测试、判断和比较的统一评估脊柱
arXiv:2610.22511v1 发布类型：新 摘要：评估语言模型和代理需要结合基准准确性、基于判断的评估、运行时性能、工具使用行为和检索质量。接口、度量语义和跟踪格式的差异使这些比较变得复杂，并且可能隐藏智能体工作流中的失败。
研究前沿
遵循法律要求的流程：培训语音代理以转移到债务催收中看不见的监管程序
arXiv:2610.18881v1 公告类型：新 摘要：基于大型语言模型 (LLM) 构建的语音代理现在可以处理客户呼叫，但在受监管的应用程序中完成任务还不够：代理必须遵循法律规定的对话流程。
研究前沿
立场：海马外显记忆是 AGI 的基石
arXiv:2606.11245v2 公告类型：replace-cross 摘要：大型语言模型 (LLM) 在各种任务中表现出了卓越的能力，提高了人们对通用人工智能 (AGI) 的期望。本立场文件认为，整合外显记忆是法学硕士迈向 AGI 的基石。
具身智能
学习像专业人士一样玩耍：人形机器人的自适应运动规划和跟踪
本白皮书为机器人专家和控制工程师提供了关于如何将运动规划和运动跟踪分离以保持人形机器人的专业运动风格的全面概述，以及为什么自适应速度感知控制对于缩小模拟与现实部署之间的差距至关重要。
产业动态
Otter.ai 为其会议工具从 General Catalyst 增长基金筹集了 3.2 亿美元
会议笔记工具 Otter.ai 周二宣布，已从 General Catalyst 的客户价值基金 (CVF) 筹集了 3.2 亿美元，该基金在不稀释股权的情况下为初创公司提供资金，并从营销支出的结果中获得回报。 Otter.ai表示，将利用这些资金用于企业发展、上市战略、国际扩张和产品创新。 […]