Cheng Lou 开源 Handwired:手写权重,把程序逻辑变成不用训练的神经网络
Midjourney 工程师、前 React 核心团队成员 Cheng Lou 开源了一个自称“玩具项目”的 Handwired:把程序里的 if-else 和循环改写成神经网络的权重。权重是手写的,不用训练,输出和对应的 JavaScript 程序完全一致,在浏览器里就能跑。
原理一行代码就能讲清。比如 result = a > 4 ? 10 : 12,在 a 是整数时可以改写成:
above4 = relu(a - 4) - relu(a - 5)
result = above4 × 10 + (1 - above4) × 12
relu 就是 Math.max(0, x),神经网络里最常见的激活函数。a 大于 4 时 above4 正好是 1,否则是 0。两个分支都算出来,再用它挑一个。神经网络本质上就是一堆乘法、加法加上 relu,所以程序里的判断和分支,都能收进一个大矩阵乘法里。
也许你会好奇,神经网络的输出不是带概率、不精确吗?
Cheng Lou 的回答是:训练出来的才这样,按程序逻辑手写的权重,同样的输入永远得到同样的输出。
他放了三个 demo。
第一个是 Mini OS,一个有三个窗口和程序坞的小桌面,拖动、缩放、层叠、滚动、文字输入、动画都有。打开浏览器开发者工具看,页面就是普通的网页元素,没有大模型,也没有扩散模型。驱动它的是一个 130 层、9909 个权重的“神经网络”,训练次数为零,在浏览器里用 CPU 实时计算。
第二个是实时搜索 10 万份 JSON 文档,每敲一个键重搜一遍。正则匹配、JSON 解析、高亮全是这种手写网络,再转成 WebGPU 代码放到显卡上并行跑。项目文档里的实测(Apple M5 Max + Chrome):每次搜索 11 到 15 毫秒;浏览器自带的正则引擎一般 8 到 28 毫秒,遇到容易回溯的写法要 2 秒多。文档写明两者谁快说不准,所以页面把两个时间都列出来。浏览器不支持 WebGPU 时会退回 CPU,搜一遍要 13 秒。
第三个是会“学习”的相册。整个程序可微分,也就是能用训练神经网络的反向传播来调参数。你在左边画几个矩形当草图,右边的照片布局由一个小网络算出,它的 244 个参数随着你拖动实时训练。损失函数里加了一项对齐惩罚,照片会自己往一条线上靠,没有任何代码专门去对齐它们。参数很少,训练全在 JavaScript 里跑。
Cheng Lou 还设想,把一段 Handwired 程序接到 nanoGPT(Andrej Karpathy 的一个小型 GPT 训练项目)这样的模型上一起训练,模型既能写莎士比亚,又能精确执行那段程序。这个目前只是 README 里的设想,仓库里没有现成实现。
代码以 MIT 许可开源,demo 直接在网页上打开就能玩。想自己写,需要装 Bun,克隆仓库后从 template 目录的开关按钮示例开始,文档里有完整教程。
推文说“把普通 JS 代码变成神经网络”,容易让人以为能把现成代码丢进去自动转换。项目文档写的是:没有工具能把已有的 JavaScript 源码转成网络。你要用它提供的构建函数,把逻辑一句句写成比较、选择、加权求和这类操作。网络每次都要把所有操作跑一遍,不能提前退出,也不能跑运行时才知道次数的循环,所以常见的循环得改写成计数、树形合并之类的结构,文档专门用一章讲怎么改。所有数都是 32 位浮点数,每个值的取值范围要事先声明。
项目主页:chenglou.me/handwired/
GitHub:github.com/chenglou/handwire…
原推文:xitter.cf/_chenglou/status/21105…
EAAI retweeted
OpenAI 办公室惊现精密录音设备,沙特籍工程师被 FBI 逮捕
CBS 晚间新闻报道,一名 35 岁的 OpenAI工程师阿卜杜拉赫曼·阿尔法赞(Abdulrahman Alfazan,沙特公民)被联邦特工逮捕。他涉嫌把一个精密录音设备藏在旧金山总部高管会议室的电视机后面,用来窃听关于先进 AI 项目的机密讨论。OpenAI 官方声明称,是用自家 AI 模型追踪到此人并报警的;FBI(美国联邦调查局)介入后迅速抓人。OpenAI 强调暂无证据显示模型权重、源代码或客户数据被窃取。该员工已被开除,面临最高五年监禁和 25 万美元罚款。
评论:这是今天科技圈最魔幻的一条新闻,魔幻点有三个:第一,全球最懂 AI 的公司,被人在自己会议室里装了"耳朵";第二,抓出内鬼用的居然是 AI 自己——"我用我查我自己",黑色幽默拉满;第三,据报道嫌疑人是用妻子的 AI 账号查的"怎么做录音器",留下的聊天记录成了铁证。我的看法是:这件事的象征意义大于实际损失。它标志着 AI 竞赛已经进入"谍战片"阶段——模型权重、算力、人才,现在连会议室里的空气都成了资产。接下来各家大厂的内控只会越来越严,打工人的日子更不好过了。顺带一提,这案子还没判,动机也没查清,现在下"间谍"结论还太早。
EAAI retweeted
AI最赚钱的生意,可能不是做模型,是当房东。
据The Information报道,Anthropic与超10家云厂商签下15GW+数据中心租赁,总值约$5300亿。算力从去年1.4GW涨到今年5GW,明年9.5GW,2028年超15GW。
比特币矿企IREN据报道也拿到了Anthropic多年期云协议(双方未确认)。矿工的机房,正在变成AI的房东。#AI















