Pinned Tweet
2018/12/08 Top Rankings|
No.1 Proactive|1,148|主动参与第一|Outranked Binance English No.2
No.1 Active Joins|1,112|真人进群第一|Outranked 币安官方中文群 No.3
Overall|No.6|876|综合第六
Members|53,767|No.330
这个视频告诉你
好莱坞是怎么造假的
城墙是泡沫做的
海啸是1米深的水箱
恐龙是模型
火山岩浆是灯
但你看完会觉得比真的还真
周期也一样
很多人看的是表面的假象
聪明人看的是幕后怎么搭的
5个幕后,我放评论区了。
不管你是做加密的做 AI 的
还是做自媒体的每当你感到很辛苦
想放弃的时候你看一下这个视频
这个人我觉得太了不起了
他全身瘫痪在床上,动不了了
但是他还能够坚持拼命地去活着
我觉得这种人太厉害了,他内心太强大了
现在这周期拼的不是模型多聪明,是谁能把推理成本给打穿。
传 DeepSeek 单卡 38 刀一小时是乌龙,把 8 卡整机当单卡算了。
我把官方原报告账本给拆了,真实的单卡 12.92 刀,545% 的理论上的利润。
官方 14.8-19K token/秒,是 8 卡 H800 一个节点的速度,平摊单卡只有 1850/秒。
1 小时 666 万 token,股价 5.5 刀算,收入 3.66 刀,扣 2 刀的租金,净赚 1.66 刀,83% 的利润,不是 11 倍。
真实 24 小时账:
1814 张 H800,43536 卡时
成本 8.7 万刀
输入 608B,输出 168B
日入 56.2 万刀
单卡 12.91 刀/小时
545% 利润率
没有 38 刀那么夸张,但仍是行业顶级。
为啥能赚那么多?
ML 把 KV cache 压 93.3%
MoE 671B 只激活了 37B
PD 分离加 DualPipe 榨干 H800
56.3 输入轴硬盘缓存
但 545% 是理论值,免费用户和夜间空转没扣,扣完仍是正毛利。
搞 Inference 最好的秋天,DeepSeek 今天开源了 DeepInfer,分布式推理、推测解码、SWA、调度器、算子、tokenizer 全放出来了。
以前研究他们的系统得对着论文猜,现在直接上线看怎么跑。
下午见证了奇迹,整个 Inference 圈同时停止调参,集体去 clone 仓库。
去年做 TG 我就明白一个道理,玩最强的玩家把铲子开源,就是黄金时代,做过推理优化的人来说,今天就是
英伟达这步棋,看懂的人不多。8000 块 H200,调动了欧洲最强的超算jupiter
超算 Google 模拟 104 个带真实噪音的量子比特,以前的 50 比特是理想温室,这次直接把现实世界的振动、温度、电磁干扰都建模进去。核心突破的不是 104,是模态培育。以前通用量子计算,90% 的算力都浪费在提纯模态上,没几个比特能干活。这次验证的新路线,造同样质量的模态,物理比特直接省 90%。
黄仁勋根本不是想造量子芯片,逻辑和我 18 年做 Telegram 一样:你们去冲一线当项目方,我做底层的铲子。无论超导和离子陷阱,研发前都是用他们的 CUDA-Q 还是 GPU 超算先跑几周模拟。节省 90% 不等于整机打一折,这就说明了量子时代英伟达还是要收过路费,这和 AI 时代一模一样。







