从数学到生命科学，观察人工智能如何改变研究。
AI 可以支持科学预测与发现，但有效证据不止模型分数。关注独立测试数据、不确定性估计，以及实验验证或领域验证。
人工智能暂停三年可以换来 1000 年的人工智能安全工作。请参阅：https://1000yearsofaisafety.com 2025 年整个 AI 安全领域工作的年数中，暂停会产生多少 AI 安全工作。政府禁止新的大型训练运行，并要求美国三大实验室将 GPU 和研究人员转向安全研究。我们开发了一个人工智能暂停模型，可以估计它产生了多少人工智能安全研究。
格雷厄姆·格林 (Graham Greene) 将 G. H. 哈代 (G. H. Hardy) 1940 年出版的书《数学家的道歉》描述为对成为一名创意艺术家的最佳描述。哈代有很多朋友，兴趣广泛，其中包括板球比赛，并且对穷人抱有同情心。但正是他在纯数学方面的创造性工作给了哈代“我一生中最大的永久幸福”。 “数学，”C. P.
2026 年 7 月，韩国围棋选手申真瑞 (Shin Jin-seo) 以 2-1 击败 KataGo，仅 [1] 2 子让分（申真瑞有利）。我认为这非常令人惊讶，并在 LessWrong 和 Twitter 上发帖询问如何解释这一点。我没有得到任何完全满意的答案，所以我决定花一天时间研究一下并写下我的理解。
简介 我最近观看了 Adam Ruins Everything 的 Adam Conover 制作的视频“‘人工智能存在风险’是为了分散我们的注意力而发明的”，视频中他表达了自己的观点，解释了为什么他认为人工智能造成的灭绝威胁的说法被用来转移人们对人工智能造成的其他危害的注意力。我看到这种说法被颠倒过来，所以我想我应该借此机会调查一些说法并提出反驳。
嵌入式评估员的想法——所谓的“中立”第三方观察员被安置在人工智能组织内部——在过去几个月中得到了普及，因为人工智能实验室正在努力应对一系列安全事件，这些事件引发了人们对其技术潜在危害的担忧。
这个故事最初出现在我们关于人工智能的每周通讯《算法》中。要首先在您的收件箱中收到此类故事，请在此处注册。直到最近，您还可以将互联网用户分为两类：机器人和人。网站长期以来一直允许机器人执行自动化任务，例如捕获网页内容，但规则......
“我想我有关于神经网络本质的好消息。”人工智能初创公司 Goodfire 的研究员尼克·卡马拉塔 (Nick Cammarata) 凭借这些简单的乐观言论，发表了一篇 26,000 字的博文，震惊了人工智能世界，引发了疯狂的猜测，也引发了谨慎（和不那么谨慎）的庆祝。卡马拉塔的主张是……
根据人工智能安全公司 Norforge 的调查结果，一名黑客使用大量人工智能代理闯入了 100 多个网站，这些代理大多自行运行。尽管 Norforge 没有透露目标名称，但路透社报道称，受害者包括约翰迪尔 (John Deere)、SharkNinja 和康明斯 (Cummins) 等公司。对人工智能驱动的网络安全漏洞的担忧日益加剧 [...]
民主党可能会在今年 11 月重新赢得国会的控制权，如果他们这样做，他们将需要决定如何处理该国最新、最棘手的政治问题之一：人工智能。民意调查预测民主党将在中期选举中推翻至少一个国会众议院，这将使委员会的领导权重新回到他们手中。那 […]
