从代码助手到协作系统，追踪 Agent 的能力与边界。
智能体围绕目标选择动作和工具，工作流则更多沿着预设步骤运行。可靠部署需要明确权限、可观察的结果，以及失败时的停止或升级机制。
会议笔记工具 Otter.ai 周二宣布，已从 General Catalyst 的客户价值基金 (CVF) 筹集了 3.2 亿美元，该基金在不稀释股权的情况下为初创公司提供资金，并从营销支出的结果中获得回报。 Otter.ai表示，将利用这些资金用于企业发展、上市战略、国际扩张和产品创新。 […]
人工智能暂停三年可以换来 1000 年的人工智能安全工作。请参阅：https://1000yearsofaisafety.com 2025 年整个 AI 安全领域工作的年数中，暂停会产生多少 AI 安全工作。政府禁止新的大型训练运行，并要求美国三大实验室将 GPU 和研究人员转向安全研究。我们开发了一个人工智能暂停模型，可以估计它产生了多少人工智能安全研究。
格雷厄姆·格林 (Graham Greene) 将 G. H. 哈代 (G. H. Hardy) 1940 年出版的书《数学家的道歉》描述为对成为一名创意艺术家的最佳描述。哈代有很多朋友，兴趣广泛，其中包括板球比赛，并且对穷人抱有同情心。但正是他在纯数学方面的创造性工作给了哈代“我一生中最大的永久幸福”。 “数学，”C. P.
市长佐兰·马姆达尼 (Zohran Mamdani) 周一晚上表示，纽约人必须抵制人工智能接管不可避免的说法，并要求制定保护公众并将权力重新交到他们手中的法规。
简介 我最近观看了 Adam Ruins Everything 的 Adam Conover 制作的视频“‘人工智能存在风险’是为了分散我们的注意力而发明的”，视频中他表达了自己的观点，解释了为什么他认为人工智能造成的灭绝威胁的说法被用来转移人们对人工智能造成的其他危害的注意力。我看到这种说法被颠倒过来，所以我想我应该借此机会调查一些说法并提出反驳。
嵌入式评估员的想法——所谓的“中立”第三方观察员被安置在人工智能组织内部——在过去几个月中得到了普及，因为人工智能实验室正在努力应对一系列安全事件，这些事件引发了人们对其技术潜在危害的担忧。
亚马逊希望打破 Nvidia 对 PyTorch（用于构建大多数人工智能应用程序的免费工具包）的控制，以便更多开发人员在像自己的芯片一样的替代芯片上运行他们的应用程序。
这个故事最初出现在我们关于人工智能的每周通讯《算法》中。要首先在您的收件箱中收到此类故事，请在此处注册。直到最近，您还可以将互联网用户分为两类：机器人和人。网站长期以来一直允许机器人执行自动化任务，例如捕获网页内容，但规则......
“我想我有关于神经网络本质的好消息。”人工智能初创公司 Goodfire 的研究员尼克·卡马拉塔 (Nick Cammarata) 凭借这些简单的乐观言论，发表了一篇 26,000 字的博文，震惊了人工智能世界，引发了疯狂的猜测，也引发了谨慎（和不那么谨慎）的庆祝。卡马拉塔的主张是……
根据人工智能安全公司 Norforge 的调查结果，一名黑客使用大量人工智能代理闯入了 100 多个网站，这些代理大多自行运行。尽管 Norforge 没有透露目标名称，但路透社报道称，受害者包括约翰迪尔 (John Deere)、SharkNinja 和康明斯 (Cummins) 等公司。对人工智能驱动的网络安全漏洞的担忧日益加剧 [...]
