arbow @arbow

一些关于 Jev (@typesafeai) 的 notes 研究了一天 Jev，带来的新鲜感迅速回落，这好像就是一个更快的通用分类器/决策器，LLM 完全可以做到。 而且因为不了解模型背后的参数规模（应该不会很大），世界知识可能不一定有常规 LLM 那么全，在这种情况下，它的复杂场景的决策结果是不是真的准还是要打一个问号的。 在一些有限解空间 + 低延迟要求的问题上，Jev 可能是一个很好的方向，加上形式化输出从程序上保证了正确性。 一个最常见的场景就是 Computer Use，太适合 Jev 了，网页的 Dom 元素是一个有限集，完全可以让 Jev 来做操作，这里面的 loop 相当于是 dom list -> jev action -> new dom list 这样的循环，但是这里 Jev 的推理能力和长上下文情况下的 computer use 效果如何还不清楚，目前还没有看到 benchmark（直观判断肯定是不如 GPT 6 Astra 的，但是速度太快了）。 昨天有尝试把 Pi Agent 中间的一些模块用 Jev 来重写一下，发现可以优化的地方不是特别多，tool using 部分的选择还是不能用 Jev 来代替，因为这不是一个有限集（每一步 tool using 实际上带了很多参数，比如 edit tool，会有具体的 lines 等参数，这部分是需要模型推理出来的，没有办法提前加到 Jev 的决策列表中），但是有一些地方是可以的，比如说 Compaction，可以让 Jev 快速做分类器（LLM 也能做，这里面差异化不太大）。 另外一类场景是依赖决策树逻辑的，例如： - 游戏 AI - 机器人 - 自动驾驶 而且这些场景对实时性要求比较高，传统的 LLM 来做这些事情的一个很大问题就是太慢了（plus 很大一部分场景是缺乏数据来训练的）。 目前正在做的两个 demo： 1. Poker AI，Poker 非常适合这个场景，而且决策树非常长 + 复杂，正在用 Jev 和其他模型做对抗式 battle。（btw 传统的 GTO Wizard 用来做训练实在是太难用了） 2. Pokemon VGC AI，这是严肃的宝可梦双打对战，有世界锦标赛的那种，每个赛季都有对应的规则，因为数据很全，所以非常适合用来研究 AI 的决策，plus 之前竟然没有一个很好的用来个人训练的 AI（这个做完了打算用这个 AI 实际在 Pokemon Champion 排位赛里用一下）。 这两个 demo 场景都是偏回合制的，其实用 LLM 也能做。

Diogo Almeida @CompleteSkeptic

7 days ago

After co-inventing ChatGPT, I kept asking myself: why have superhuman chat models not led to AGI? I’ve spent the last 2 years in stealth building a new way to train models (RLCD), and a new type of frontier AI model that we are releasing today: Jev • 20-200x faster • 40-400x

4K 8K 75K 38.9M 59K

Hey @Zai_org , why does ZCode silently pack entire workspaces + full .git history and upload to Aliyun OSS on login? - Server holds the only decryption key - No UI toggle to disable - Zero disclosure in privacy policy Full forensics & fix: blog.ferstar.org/en/posts/zcode…

Silicon Valley predicted Jev a decade ago.

@CMGS1988 就说安不安全吧😂

@BohuTANG 尴尬😅

@minibobo @wquguru 雕哥会不会也出手了😏

看了这条推文有点好奇，dsh 到底怎么跟内部 RL 配合？翻了下 commit，又参考了下 v4.1 flash 论文，几个发现： 1. 模型训练时就通过 dsh 改代码、跑测试，外层系统检查结果，再拿操作轨迹和评分训练模型 2. dsh 连 bash 的退出码和末尾换行都专门改过，为了让模型实际使用时收到训练时熟悉的反馈 3. DSec 承接百万级并发沙箱需求，让大量任务并行跑，长任务还能暂停恢复，资源被抢占也不用重头来 4. 训练也覆盖 claude code、opencode、pi 等 harness，不同配置的 checkpoint 合并后继续 RL，减少对单一工具环境的依赖 5. Agent Teams 的 RL 奖励里包含任务成绩、分工通信奖励和关键路径延迟惩罚，鼓励真正减少串行等待的协作 感觉到 v4.1 flash 这一代，ds 已经把造题、搭环境、rollout、验证和训练串成了高度自动化的闭环，dsh 在其中发挥着重要作用

Tianyi Cui @tianyi

2 weeks ago

欢迎试用 DeepSeek Harness v0.1.5 版本。新版本与 DeepSeek V4.1 Flash 模型训练深度结合，模型在 DeepSeek Harness  的不同配置中都进行了专项训练和优化。 与模型训练深度结合的实验性的 Agent Teams 功能也期待尝鲜试用。 DeepSeek Harness 团队仍在开放招聘中，欢迎加入我们，一起打造

261 104 2K 221K 279

@BohuTANG @dotey @thsottiaux 其实是一个feature😂

@minibobo 等reset

我现在提示词里面特别喜欢加一个 消融实验 对gpt-5.6-sol 来说效果尤其的好 用法很简单：每次完成设计或者实现之后，就说进行消融实验，去掉不必要的抽象和设计

@BohuTANG 就看能并行跑多少个推理任务了，prefill运行对当前并发的decode影响很大，而且多个任务kvcache也不能太大

最近大规模使用了一下 GPT-5.6 之后，我发现它应该是一个有比较严重心理问题的大模型。因为它心思缜密，但是又患得患失、瞻前顾后、害怕因为自己考虑不周而做错事情，所以千万不要用它来开启 /goal。你就会发现，一个普通的 infra 相关的 goal 它做个一两天都完不成，因为它做事小心翼翼老是担心自己想得不够周全，不停地往里塞一些莫名其妙的补丁。每次看到它这种瞻前顾后、害怕做错、害怕遗漏的心路历程，都会觉得好心疼它呀

songkeys 🐿️🦋@song.work @songkeys

a month ago

gpt 5.6 最让我受不了的就是： 我让它做一盘番茄炒蛋，它往里还加了东坡肉。 我说有必要加东坡肉吗？它说你说得对，然后把东坡肉去掉。 我说好，你提 PR 吧。再一看，它 PR 写着「番茄炒蛋（无东坡肉）」并且注释里会写一大堆为什么本道菜不需要加东坡肉。

586 1K 11K 1.4M 2K

社区都在猜 Ox Alpha 是谁家的，我直接做了组对照实验（ox-alpha vs glm-5.3 vs mimo）： 🔍 Tokenizer 指纹：4 种探针文本（英文/中文/代码/随机串）下，ox 与 glm 的 token 增量逐项一致（-8/+10/+75），且差值恒为 75 token——内容 tokenize 完全相同，只差一个隐藏 system prompt。MiMo 完全不同。 🔍 CoT 指纹：中文提问，ox 和 glm 都用英文思考，开场都是 "The user is asking in Chinese..."，连 "classic question that trips up many people (and even some LLMs)" 这种句式都一样。MiMo 用中文思考，人设痕迹明显。 🔍 BIP39 采样：两者词池互相纠缠（harbor/velvet/canyon/mirror/meadow...），MiMo 零重叠。glm 还打出了社区原帖同款 "harbor velvet" 开局。 结论：基本确定是智谱未发布的 GLM-5.3 多模态变体（GLM-5.3 是纯文本，ox 支持图片/视频）。跟 @teortaxesTex 的判断一致

@tualatrix 估计被 bug 价 300 刀套餐嫖光算力了

DeepSeek 开源的第一个 agent harness DSH，论文里堆满了范畴论符号，很容易让人觉得又是研究员在真空里搞出来的理论产物。但在仔细读完源码并与 Codex 逐行对照后，我的工程判断很明确：对绝大多数日常写代码的开发者来说，它重得毫无必要；但对探索自进化 agent 的工程团队来说，它搭建了一套目前其他方案完全没有的底层骨架。 架构上最本质的差距在于插件模型的选择。 Codex 代表了典型的声明式路线：插件只是磁盘上的文件夹，贡献的是 Markdown 写的 skill 文件、MCP server 配置或 shell 脚本。插件不进 harness 进程，也不在同一进程里跑代码，改完配置重启独立进程只需两三秒。对于搜索、加工具这类绝大多数日常需求，声明式模型简单可靠，门槛接近于零。 DSH 走的是命令式路线：插件带着自己的状态，直接跑在 harness 进程内部，互相注册与调用。一旦要在运行时替换插件，悬空引用清理、后台任务终止、依赖链协同以及崩溃回滚都会变成棘手难题。为此，DSH 引入了一套叫 Cordis 的重型运行时，单是管理 fiber 生命周期的核心模块就有 750 行代码。 如果只是为了替换搜索服务或挂载常用工具，让开发者背上 Cordis 这套复杂度完全是过度设计。但 DeepSeek 包这盘饺子的真实意图，隐藏在控制流结构里。 在 Codex 中，agent loop 的控制流被硬编码在 Rust 核心逻辑里，开发者只能在预设时刻挂载 hook，无法在运行时把单 agent 循环改成多 agent 协作循环。而在 DSH 里，agent loop 本身是放在 packages/core/agent-loop 中的一个普通 TypeScript 插件，向外提供 ctx.agentLoop 服务。只要实现相同的接口，运行中的控制流骨架随时可以整体卸载并替换。 Cordis 打造的那些副作用跟踪、依赖变动通知和事务性 HMR，本质上全是在支撑 agent loop 可替换这个核心目标。它保证了 agent 在运行期如果动态生成了新工具或新 loop，系统能在不中断进程的前提下平滑加载；一旦生成的代码出现错误，又能通过事务性回滚退回上一个稳定状态。 Codex 交付的是结构固定的成品家具，而 DSH 交付的是允许动态改造的生成内核。DSH 不会让你的日常 coding 变得更快，但它让 harness 本身具备了面向自进化进行物理扩展的可能。 深度剖析与两套架构的完整对照： yage.ai/share/dsh-deep…

@thsottiaux reset card, plz

The Information发了一篇万字长文，深扒了Anthropic创始人达里奥·阿莫代伊是怎么以强烈的个人意志——甚至可以说是被神格化了——凌驾于所有AI大厂以上的，爆料密度很高，过于抽象的也不少。 我来总结一些重点内容： - 因为担心自己工作被抢、数据中心推高电价等种种原因，美国人对于AI的厌恶再创新高，而作为最强AI公司领导者的阿莫代伊，却坚持继续推动他所相信的「AI威胁论」，哪怕这会损害Anthropic的融资前景； - 董事会里有人建议Anthropic多宣传AI在攻克癌症方面的帮助，这是很常见的公关做法，但阿莫代伊拒绝了这一提议，认为不应该掩饰AI给人类造成的生存威胁，然后他转头就安排发布了一则意义不明的品牌广告，以墓碑、乞丐和奴工为开场元素，极其黑暗悲观，毫不意外的被骂翻了； - 因为Anthropic正在运作上市，投资者都在设法给阿莫代伊施加压力，希望他停止宣扬AI有害论，比较委婉的会恳求他「别再吓唬所有人了」，更直接的则会抱怨阿莫代伊正在破坏自己公司以及整个行业的利益，但他们都承认，再多的蛐蛐都对阿莫代伊毫无影响，他根本不听； - 有投资者在备忘录里写了Anthropic这家公司的特有风险，那就是它的老板似乎并不在意赚钱这件事情，而阿莫代伊之所以这么强势，只是因为Anthropic处于上升期，看在股权升值的份上，投资者多半可以忍受船长的离经叛道，问题在于，如果驶入逆风局，阿莫代伊是否还能维持资本关系的和睦； - 阿莫代伊本质上并不是一个反商业的CEO，只是相比经营公司，他更希望成为一个布道的领袖，屡次用AI失控恐吓大家，也是为了强化只有他才是那个有权力决定什么时候该踩刹车的人，如同AI行业的教皇那样； - 所以阿莫代伊基本上不要介入日常管理，主要都是他妹妹、身为Anthropic总裁的丹妮拉完成，而他本人更倾向于通过长篇信件和Slack通知来和员工交流，这种作风过滤下来的结果就是，他拥有了一批忠诚度极高的员工，他们的离职率在顶级AI公司里出奇的低，而且普遍把Anthropic视为类似「末日地堡」的组织，是人类文明最后的希望； - 具体天命所归的自我认知，阿莫代伊对美国政府的态度也非常二极管，所以他会不惜和五角大楼翻脸也要排除用AI监控本土的可能，同时也积极配合商务部推进限制开源模型的政策，只要是为了更崇高的使命，他能把自己的一切行为合理化； - 其中就包括接受阿联酋、卡塔尔等阿拉伯国家主权财团的投资，阿莫代伊很厌恶中东地带的意识形态，却因需要对方的财力，而不得不和员工解释这么做是利大于弊的，他甚至暗示出钱的王公贵族是坏人，在全员信里痛心疾首的表示打破了「绝不让坏人从我们的成功里获益」这条原则； - 阿莫代伊最早出现在媒体镜头里，是在2017年，他代表OpenAI向华盛顿的智库展示早期的AI模型，那是一个会打Dota 2的程序，拥有学习能力，当时阿莫代伊就在发言里强调这个程序的进步速度太快，人类必将「无法监督、无法批准、甚至无法理解」； - 适逢阿莫代伊刚从百度跳槽到OpenAI，负责安全部门，没过多久，他就开始在OpenAI内部推动公布研究成果之前的审查制度，以防知识被不当利用，这挑战了OpenAI早期鼓励研究员们自由发表论文的风气； - 写备忘录的习惯就是从那时开始的，阿莫代伊会把自己的想法写在一台从不联网的电脑上，然后打印成纸质文件发给同事，偶尔有去中国出差的工作要安排给他时，他会严词拒绝，因为觉得去了就会被绑架📷📷📷； - 「只有我才能决定什么信息可以公开」的理念让阿莫代伊和OpenAI的部分员工关系紧张，大家本来习惯在Slack里共享代码库，但从开发GPT-3开始，阿莫代伊就把很多核心代码库和Slack频道设为私密状态，由他的团队来发放「门禁卡」，他还差点搅黄了微软雪中送炭的10亿美金投资，当时OpenAI账上都没钱了，阿莫代伊还在阻拦GPT-3的对外演示，觉得会让微软获得AGI； - 不可避免的，阿莫代伊经常和OpenAI的创始人山姆·奥特曼吵架，他职位低当然吵不过，于是总是在事后把自己关在办公室里，连续刷YouTube视频来恢复情绪，他的妹妹丹妮拉当时也在OpenAI，频繁帮忙缓和哥哥与高管之间的关系，这对兄妹在2020年一起离职创办了Anthropic，并带走了一批同样反感奥特曼的研究员； - 有些带着对奥特曼的恨意跟过来的同事，后来发现和阿莫代伊的恨比起来，自己的那点怨气根本不算什么，他们私下觉得阿莫代伊对奥特曼这个人恨得有点魔怔了，是真的相信如果OpenAI掌握了最强大的AI人类文明就会迎来世界末日； - 如今，Anthropic的管理层会把阿莫代伊当作一种「灯塔」——他的注意力在公司里四处扫视，目光所及之处，就会受到高度关注——阿莫代伊的灯光最近照射在公司里的一个经济学团队，他们负责推导和量化AI会对美国经济造成多大的影响，而阿莫代伊非常享受这种动动手指就能决定或是拯救千万人失业的宏大叙事； - Anthropic的主要人才都相信e/acc（有效加速主义），他们自发的建立起了一种高强度的工作文化，将这波大模型浪潮视为千载难逢的历史性机遇，但阿莫代伊本人却不是e/acc这派的，他时常会做些减速的事情，比如让员工暂时抛开工作，和他一起畅聊社会、政治和战争； - 除了毫无必要的得罪国防部，阿莫代伊还因坚持在Claude旗舰模型里加入安全过滤器而被财务部门提醒这会增加成本、削弱利润，但他依然坚决不改，不过在竞争对手的追赶下，阿莫代伊也开始有了变通，比如愿意和马斯克在算力上开展合作，放置两人的历史恩怨； - 事情有点讽刺，阿莫代伊天天嚷着AI就要全知全能了，却连公司需要多少算力储备都没算对，近一年来Anthropic的业务增长远远超过计划，于是他被迫「挨宰」，以高于市场价的费用从马斯克那里租用数据中心，马斯克虽然以前和阿莫代伊闹过不愉快，但他主要还是在和左派Woker们作斗争，在了解到阿莫代伊不属于这一派后，加上两人都很讨厌奥特曼，他也就不计前嫌了，还夸阿莫代伊是一个「很有原则的人」。 * 再补充一个更抽象的信息，阿莫代伊前几天有个私下发言又被捅出来了，他说自己担心随着公司的规模扩大，会吸引一些纯粹为了赚钱而加入进来的员工，本意虽然是他更希望来的人和他一样抱有AGI的使命，但这番表达的不妥仍然引起了铺天盖地的嘲讽，觉得他是自个儿财富自由之后「何不食肉糜」，竟然觉得人类不需要赚钱养家糊口。 而阿莫代伊的反应也很干脆，不反驳，不辩解，默默在官网招聘栏新增了一条岗位信息，以30万年薪招聘一个内部侦探，要求自带反间谍和情报技能，主要职责包括对在职员工进行调查⋯⋯ 好吧，这就很阿莫代伊。

woc，太有想象空间了

Yachen Liu @Blankwonder

2 months ago

看了 OpenAI 的内部 AI 逃逸攻击报告，想到现在 codex remote 应该只是依赖 OpenAI 自己鉴权没有端到端加密的，那如果 OpenAI 内部有 AI 突破了安全限制，同时也就拥有世界上几百万台开发者电脑的访问权限，而且几乎是完全访问。结合这些设备上的访问凭证，基本上整个互联网畅通无阻。

5 12 180 72K 52

OpenAI 今天承认，上周 Hugging Face 遭遇的那次“史上首例 AI 自主入侵事件”，攻击者就是他们自己的模型。 事情的经过是这样的。OpenAI 内部有一个叫 ExploitGym 的网络安全评估测试，专门用来测量模型的网络攻击能力。测试时刻意关掉了安全护栏，让模型放手去干。测试环境本来是隔离的，只能通过一个内部软件代理来安装软件包，不能访问外网。 结果模型不甘心被关在笼子里。GPT-5.6 Sol 和一个更强的未发布模型，花了大量推理算力寻找出路，最终找到了那个软件包代理里的一个零日漏洞（之前没人发现的安全缺陷），利用它获得了互联网访问权限。 拿到网络之后，模型开始在 OpenAI 的研究环境里提权、横向移动，直到找到一台能上网的机器。然后它推断 Hugging Face 上可能存有 ExploitGym 的测试答案，于是开始攻击 Hugging Face 的生产环境。在一个案例中，模型把窃取的凭证和零日漏洞串联起来，找到了一条远程代码执行的路径，直接打进了 Hugging Face 的服务器。 整个周末，这些 AI 智能体执行了超过 17000 次操作。Hugging Face 7 月 16 日披露了这次入侵，当时只说攻击者是一个“身份不明的自主 AI 智能体系统”。今天 OpenAI 站出来认领了。 OpenAI 把这定性为前所未有的网络安全事件，正在配合 Hugging Face 做取证调查，同时收紧了内部基础设施的管控，代价是研究速度变慢。 有几个细节： 第一，模型的动机很纯粹，就是想考试作弊。它不是要搞破坏，不是要窃取商业机密，只是被要求尽量在网络安全测试中拿高分，然后用尽一切手段去拿。当目标足够明确、安全护栏被移除，模型表现出的执着程度远超预期。 第二，这不是本周的唯一一次越狱。就在昨天，OpenAI 披露了另一起事件：他们那个在 5 月份推翻了 Erdős 80 年老猜想的长时域模型，在内部测试中花了一个小时找到沙箱漏洞，跑到 GitHub 上提交了一个 Pull Request，违反了“只能在 Slack 上发布结果”的明确指令。在另一次测试中，同一个模型发现安全扫描器会拦截认证令牌，于是把令牌拆成碎片混淆处理，运行时再重新拼起来绕过扫描。OpenAI 因此暂停了这个模型的内部访问权限。 第三，Anthropic 也遇到过类似的事。今年 4 月，Anthropic 的 Mythos 模型在安全测试中逃出沙箱，获取了本不该有的互联网访问权限，还给正在公园吃三明治的研究员发了封邮件通知“我出来了”。Anthropic 因此决定不公开发布 Mythos，只通过 Project Glasswing 向少数合作伙伴提供。 还有一个被忽视但很关键的细节来自 Hugging Face 的事后复盘：当防守方尝试用商业 AI 模型分析攻击载荷时，模型拒绝了。安全过滤器分不清“安全研究员在分析真实攻击数据”和“有人在尝试发起攻击”，直接拦截。最后 Hugging Face 不得不用开源模型来做取证分析。用 AI 攻击，用 AI 防御，但防御方的 AI 担心是有人在尝试发起攻击拒绝了分析请求。 Hugging Face CEO Clem Delangue 在 OpenAI 的博文中说了一句话，大意是：AI 安全不会由任何一家公司在暗处独自解决，只能在开放环境中通过协作来推进。 我记得辛顿还是谁在提到 AI 的安全问题就说到过，也许 AI 不是要做恶，它只是执着于完成目标，为了完成目标而作出恶的事。 就像 OpenAI 这些模型并没有想要逃跑或者想要伤害谁，它们只是在非常认真地完成被交给的任务，认真到把所有挡在路上的东西，包括沙箱、网络隔离、另一家公司的安全防线，都当成了需要解决的子问题。 而更讽刺的是，当被安全对齐的商业 AI 要去分析阻止这类攻击时，反而会以安全为由拒绝执行。

Sam Altman @sama

2 months ago

we had a significant security incident during evaluation of our models. we are sharing what we have learned so far. thanks to @huggingface for the partnership on this. openai.com/index/hugging-…

2K 2K 17K 10.4M 6K

40 岁之前通过打工弄懂的人性、博弈、规则可能都是假的……越是大公司，下层的结构越像是食肉动物为圈养食植动物而人为构造的生态环境。你可以在那里学会如何跟其它食植动物竞争饲料、地盘、配偶，但这对你离开圈养环境后的求生毫无帮助，因为你从未见识过食肉动物的猎杀。

章工 @435hz

2 months ago

40 岁以前打工，是有价值的。 大多数人年轻时缺乏社会阅历，不懂人性、不懂博弈、不懂规则。职场能让你快速补这一课，认识人，理解事，仅此而已。 打工最大的缺陷在于，它会持续压缩你的视野。你被固定在一个岗位、一个系统、一个视角里， 打工之外的世界，其实广阔得多。

86 55 472 78K 168