Building is real deep research.Doer is real thinker.
Joined August 2014
- Tweets3K
- Following1.4K
- Followers3.1K
- Likes51.5K
终于等到这种living weights的牛人方案了。
Every open model ships frozen.
What if it could learn and update its own weights as it's being used?
I have been working on a bit of engineering called Living Weights for about three months, and I think it's time to release it.
The model becomes uniquely yours, no KV stashing, no MD files, no trickery.... just live learning. 😎
Unload the model, move it to another machine, and it still knows what you told it. Could this be the start of recursive self improvement for local AI?
It drops in the latest TensorFold release today, with support for @NVIDIAAI Nemotron Lightning. 🤯👀
@abheer @sundeep @NaderLikeLadder
Special thanks to @volatilemarkts for the name.
查了一下这个nrf9151 这个芯片，还真是一个iot lte m1终端芯片，这些低端芯片可以做到这么小了。也就是说有人把整个ledger 内部的mcu都替换成一个lte 模块，整个钱包内脏已经被替换了。用户买到的就是一个100% 假的ledger钱包，只有外壳和显示屏幕是真的。
这个瓜越来越大了。被指控，在向用户售卖植入间谍芯片的比特币硬件钱包经销商 CryptoBillis，被曝上半年，将该公司转让给了一位中国老哥，资料显示他名字叫 JIA MING，定位在黑龙江五常市。
而同一时间，居住在东京的 Karpelès，在日
本亚马逊，从一位中国卖家，买的加密货币硬件钱包 Ledger 上。
拆解硬件后，发现了里面带有 LTE、eSIM、天线，可以远程读取用户存放比特币、以太坊的助记词私钥，这样用户在向其硬件钱包存放加密货币前，间谍芯片可在设备显示助记词时，截取屏幕内容并外传，从而拿到助记词私钥，最终将加密货币转移。
目前预计的被盗损失已超过 8600 万美元，涉及数百个钱包，包括比特币、以太坊等，由于很多被植入间谍芯片的设备，还在被用户激活和存放加密货币，这个损失可能还将进一步扩大。
现在看来physical AI的一条很明显的发展路径：第一个阶段操作的物理界限就是云主机，网络和端侧computer use，第二个阶段操作的物理界限是 手机的镜头电话 location/ 车机 的fsd 二维物理世界，然后才是机器人三维空间物理世界。 最终形成通用的physical AI方案。
我发现HBM这个名字起的有问题，其实HBM并没有解决内存墙问题，而且这里的high bandwidth也只是因为靠近了GPU 做了base die，特别是HBM4之后，内存管理已经复杂到需要一个专门的协处理器来完成。相当于hbm实现了计算和dram共封装，同时实现了dram stacking。这样的产品跑通了一个可能，就是行业心心念的概念：就是把存算一体 往前推进。开始把存算分离的冯诺伊曼架构撕开一点裂缝。所以hbm虽然是一个中间态产品，但是价值很大。但是产品演进还远没有结束。
AI时代的搜索和推荐怎么弄？ 可以预见的是大量的知识和信息被锁在模型的参数里。同时大量的信息从这些参数里被推理出来扩散到全网络。如果是大模型之前，搜索和推荐抓取的还是已经是信息状态的信息。而现在模型以参数隐状态为主要方式存储信息。这就导致一个问题，传统的搜索和推荐无法直接从大模型的隐状态里获取信息。 随着AI大模型越来越成熟，大量的知识信息被固化在大模型里，需要的时候才会被推理出来。而jev 则给出一个简单的解决办法。就是带着对用户偏好和理解的预判，去和大模型交互，然后获取到推理信息之后，再做一层jev 判决，最后把选择结果交给用户。用户完成了整个AI 隐状态信息的搜索和推荐。
无论是商品零售还是服务零售，在中国都是一个竞争激烈的生意。而关于关系，声誉，地位的生意往往更加具有垄断性。这是一个很奇特的中美商业环境差异的现象。
关于未来AI终端有两种路线：第一种就是os本身就是一个基座模型，然后os上边的应用就是各种agent，用现在的skill+harness那一套做封装。 第二种假设就是os还是那个os。不同的是os上应用都是一个个小模型，而os只是为这些小模型提供computer use的接口和权限管理。 其实云端上也在这两种场景下做摸索。
不过好像这两种场景都符合openAI对AGI第五个阶段的描述：组织者。 也有可能真的明年这个时候，AGI已经是在astra发布一年后不知不觉达到了。一个全新的计算平台对资源的渴求将会是史无前例的巨大。
最近openAI密集证明困扰人类几十年的数学猜想，结合2023年openAI提出的对AGI发展的五个阶段预测：chatbot，reasoner，agent，创新者，组织者。现在真的就走在创新者阶段了。 也不得不说openAI还是有一些产业洞见的。
昨天看了一下，ds的压缩效率对DiT模型应该是不成立的或者打折扣的。因为DiT模型的像素token 的记忆检索性很差。而encoder用于kv压缩也对图像生成质量造成影响。所以如果ds继续沿着极致性价比的路线发展，那么对视频生成模型来说，可能会形成一个路线分水岭。
也就是说iPhone折叠屏这个事情，苹果为了今天的发布，至少准备了6年。这也说明两个问题：第一个就是苹果为了今天的iPhone duo发布，至少蛰伏准备了6年，这是一个惊人的产品耐力赛跑。第二就是库克宁肯自己结束CEO，也没有把iPhone duo提前发布当作自己的 legacy，要知道库克是顶着缺乏创新的质疑做CEO，他还是把荣誉留给了新CEOJohn，这是惊人的企业文化。只能说太牛掰了。相比而言AI领域还是急躁了一点。😂
The new Surface Duo. There’s a new way to get things done. Available today: msft.it/6012TtMgr #DoOneBetter