如何解读“定理经 Lean 验证所以正确”这类说法
文章解释如何判断“经 Lean 验证即正确”的说法:OpenAI 上月的定理库包含 722 篇论文,约 45% 附带 Lean 代码,其中 290 个带代码的定理约 38 个并未陈述、更未证明论文主定理,三篇未形式化的论文因符号错误被撤回。
文章解释如何判断“经 Lean 验证即正确”的说法:OpenAI 上月的定理库包含 722 篇论文,约 45% 附带 Lean 代码,其中 290 个带代码的定理约 38 个并未陈述、更未证明论文主定理,三篇未形式化的论文因符号错误被撤回。
【这是什么】Sebastian Raschka 发布的长篇技术教程,讲解 LLM 如何编码 token 位置信息,覆盖学习式绝对位置编码、正弦编码、RoPE、partial RoPE、NoPE 及 Inkling 的相对位置偏置。
【这是什么】Myriad 系列第二章,一篇可视化交互讲解,构建只有四个神经元的数字生物 spark,展示它如何通过强化学习自学追逐光。【商业/痛点逻辑】面向想直观理解强化学习的读者,读者可亲手调节三个连接参数(直线、交叉连接与 drive)体验试错学习,并展示数百个 spark 的学习轨迹最终收敛到同一目标。
作者在 LeCun 团队发布的 JEPA 世界模型 LeWM 上做了 600 次实验,发现将其预测器换成模拟器完美物理后,长时程任务成功率几乎不变(78% vs 77%)。
Anthropic 发布关于 Claude Agent 记忆系统设计的研究文章,把记忆分为会话内标记显著事件写入记忆笔记、离线时段的 dreaming 反思整理,以及 wiki 等记忆表征与层级注入。
推荐理由:Anthropic 官方拆解 Agent 记忆系统设计,结合 Pokémon 和基准评测给出做梦式整理记忆的工程借鉴。
【这是什么】Hightouch 团队用基准测试评估决策模型 Jev 与 GPT-6 Luna 能否自动审核身份解析(IDR)中的过度合并结果。
作者通过阅读 Unix V4(1973 年 11 月发布,其磁带去年才被找到)的原始源码,梳理了早期 C 代码中的内存分配方式:编译器工具里是一个基于 sbrk() 的线性分配器 alloc()。
Tianhua Chen 发布修订版 arXiv 预印本《The Little Book of Generative AI Foundations》,共 195 页,以推导为主线系统讲解生成式模型的数学基础。
Simon Willison 复现论文 Sparks of Weight-Space Programming 的实验,发现 Qwen 3.8 27B 在笔记本上(仅 17GB,经 LM Studio)也能从原始浮点权重中判断强化学习网络玩的是哪款游戏,四次实验识别 Pac-Man、Pong、Breakout 成功,Freeway 失败,单次推理耗时 46 分钟到 1 小时以上。
安全研究者发现多款 PDF 实现的 AES-256 文件密钥来自可枚举的弱随机源,可无密码直接解密受保护 PDF。
这是 Dijkstra 1978 年的经典文章,批判用自然语言向机器下达指令的想法。他指出接口变更会增加双方工作量,而形式符号只需满足少数简单规则,是排除谬误的高效工具;希腊数学因停留于口头表达而停滞,西欧则因 Vieta、Descartes、Leibniz、Boole 等人设计的形式符号体系而受益。文章认为应把使用形式符号视为特权而非负担。
【这是什么】一篇解释为什么不能信任 LLM 自报置信度分数的技术分析文章。【商业/痛点逻辑】作者指出 LLM 输出的 0.85 这类分数只是文本延续,既不反映信息量也未经校准,同一问题换个问法分数就会变。
【这是什么】一篇技术长文,把线性层、MLP 和 self-attention 统一解释为不同类型的联想记忆存储,并用干扰信号比推导各层的容量上限。
机器人 AI 的发展面临一个关键问题:不像语言模型可以依赖现有海量语料(GPT-3 用了约 3000 亿 token,现存优质公开文本约 300 万亿 token),机器人训练没有等价的公开数据储备。目前主要方法包括遥操作(由人操控真实机器人录制成演示数据,用于行为克隆/模仿学习)和强化学习(机器人自主行动并对动作打分),但遥操作成本高、难以规模化,且仅部分数据可用于训练。