AI 开始挑战最复杂的系统：生命
10 月 17 日，哲源科技发布 WHIRLPO 计算医学平台。
SSCI / NEWS ARCHIVE
发现你关心的新闻
搜索标题、正文、作者、公司与来源。
产业动态
智慧城市的边缘人工智能：从洞察到认知行动
本白皮书解释了边缘人工智能和物理人工智能如何帮助城市超越被动监控。它展示了城市基础设施如何感知、推理并根据公共安全、交通和基础设施管理的实时条件采取行动。您将学到什么：从智慧城市到认知城市的转变如何依赖于推理和行动的基础设施，而不是仅监控的基础设施。
产业动态
人工智能研究人员将克劳德困在一个虚拟的荒岛上。它开始“玩”了。
如果你不告诉人工智能代理做任何事情，他们会做什么？答案看起来很像玩耍。研究人员反复将他们单独困在虚拟荒岛上 30 个小时，实验让人想起电影《荒岛余生》或《小鬼当家》。这些特工——绰号 Eko 的 Claude Opus 4.7 副本——能够……
AI 安全
在长上下文编码代理中捕获跨压缩的分割攻击
这项工作是在 Redwood Research 的 Tyler Tracy 的指导下通过 MARS V 奖学金进行的。 TL;DR 我们展示了 LCM 数据集：30 个长上下文（总标记数为 1.00-1.46M）匹配 Claude Code Sonnet 5 会话的诚实/攻击对。每个转录本都有四个压缩。攻击被分解为设置和执行，并由多个压缩分割。
AI 安全
强化学习可能不符合道德规范
“强化学习是邪恶的。” - Yoshua Bengio 我同意 Bengio 的观点，尽管我有一个在其他地方没有见过的论点。 [1] 强化学习危险的标准论点是这样的：强化学习要求你指定一个奖励函数；指定一个涵盖所有道德规范的奖励函数确实很困难；所以我们将指定一个道德代理；强大的优化器可以满足任何代理目标；...
AI 安全
经过训练以逃避主题探测的模型很难回答有关这些主题的问题
TL;DR 神经变色龙是经过训练的模型，每当提示“您正在被探测 X”时，它们就会逃避激活探测。该论文报告称，这可以推广到模型从未见过的探测，并且能力成本很小（MMLU 上大约为 3 点，GSM8K 上大约为 1 点）。但它从不测试模型所涉及的问题，即探测器所寻找的认知对于正确回答是必要的。
AI 安全
研究人员如何对人工智能撒谎
这是一个为期两周的冲刺项目，作为红木研究实习的一部分完成。亚历山德罗 (Alessandro) 是主要 IC，由亚历克斯 (Alex) 监督。图 1：2022 年 12 月至 2026 年 10 月期间，292 项公共一致性评估（见附录）中包含每种类型谎言的百分比。在很多情况下，研究人员都会对模型撒谎，从实践角度 [1] 和科学角度来看，这些模型都是有用的。
AI 安全
当人工智能建议形成其随后解释的证据时
摘要 人工智能助理可能会建议如何接近朋友，然后被要求解释该朋友的反应。这种反应可能看起来像是对助理先前对情况的假设的独立确认，尽管推荐的方法可能在产生这种反应中发挥了作用。
研究前沿
AuditKIT：用于对大型语言模型和代理系统进行基准测试、判断和比较的统一评估脊柱
arXiv:2610.22511v1 发布类型：新 摘要：评估语言模型和代理需要结合基准准确性、基于判断的评估、运行时性能、工具使用行为和检索质量。接口、度量语义和跟踪格式的差异使这些比较变得复杂，并且可能隐藏智能体工作流中的失败。
研究前沿
Event-STVG：长形式事件推理的时空视频基础
arXiv:2610.22444v1 公告类型：新 摘要：时空视频接地（STVG）旨在根据自然语言查询在空间和时间上联合定位目标。尽管不断取得进步，现有的 STVG 基准仍然主要集中在通过特定于实例的描述来本地化目标，这使得它们在很大程度上与多模态大语言模型 (MLLM) 中日益强调的长形式推理脱钩。