独立玩家 | AI 工具匠人 | 医疗跨界连续创业者 | 深读人生
Code Anywhere
Joined February 2014
- Tweets6.8K
- Following1.3K
- Followers1.6K
- Likes3.5K
文本大模型要变天了！
谁能想到，原本用来做图的扩散技术，跑去卷文本大模型居然这么猛！它不仅在生成质量上直接反超了 GPT-6 Luna 和 Haiku 5.5，推理速度更是狂飙到 1000+ tok/sec。
把扩散模型用到 LLM 上不仅跑通了，还能在不按比例增加算力消耗的情况下继续变强，这绝逼是打破现有架构瓶颈的全新解法🔥
以前折腾 Remotion 做代码视频，最遭罪的就是让 AI 写 React 补间经常黑屏，配乐还得手动一帧帧卡点，自己依旧是个代码搬运工。
看到花叔开源的 huashu-motion，才发现思路变了：它直接把科技发布会的镜头节奏打包成了 Agent 规则。大模型不仅出动画，还会自己写纯文本乐谱、调本地采样把音乐卡死在节拍上。
尝试做了roadster的推介片，一句话出片，这才是做视频应该有的状态！
很多人想在本地跑大模型，但在挑显卡或看 Mac 时，常被参数表卡住：
比如有人说某张卡跑 8B 模型每秒 40 个 token，跑 32B 只有 12 个——但这 12 还是 40，肉眼看着到底有多快？阅读卡不卡？
今天在社区看到一个很巧的开源工具叫 llmspeed，思路特别干脆：既然看数字抽象，不如直接在网页里“试驾”。
它还有两个做得很实用的细节：
1⃣双设备同屏“赛马”（Race Mode）：左右两栏各放一套配置。轻薄本核显逐字挣扎、独显飞速倾泻，并排对比极直观；
2⃣显存装载检查：提醒你模型在当前显存下能不能塞下。是能完整载入、需借用内存降速跑，还是直接罢工。
底层速度基准来自 LocalLLaMA 与 llama.cpp 社区实测跑分，未测硬件则结合显存带宽推导。
如果你正犹豫要不要为本地 AI 升级硬件，或者单纯好奇不同芯片的生成体感，可以在花钱前先去测测看。
体验地址：llmspeed.dev/
开源项目：github.com/nicorobinreal/llm…
试过让 AI Agent 帮你去网页干活的朋友，大概率都经历过这三大折磨：
1⃣弹出来的空白浏览器什么都没登录，直接被验证码拼图卡死；
2⃣跑着跑着突然弹窗抢你的鼠标焦点；
3⃣碰到登录得在提示词里交出明文密码，心里直犯嘀咕。
开发者 @AlexeyIndeev 开源的 agent-chrome-relay，想了一个特别优雅的解法：不另起空白浏览器，直接借用你正在用的日常 Chrome，而且完全在后台静默跑。
最绝的是它对密码和隐私的处理：
遇到真要登录的页面，它可以直接调 1Password，Mac 弹一个 Touch ID 指纹窗口让你摸一下确认。
密码和两步验证码由本地中继代填，大模型截到的屏幕快照里密码全是黑点打码，AI 从头到尾碰不到你的明文密码。
任务结束或闲置 30 分钟，后台标签页自动关闭，不给你留一堆烂摊子。
当然局限也要交代清楚：目前只支持 macOS + Google Chrome，首次需要用 Go 在本地编译签名（确保只有你本机的权限能读取），密码管理器目前优先支持 1Password。
比起那些动不动开几个大窗口、乱弹窗抢鼠标的方案，这种把 AI 严格隔离在后台折叠组、又把密码权牢牢捏在物理指纹里的做法，才是适合人类长期共存的自动化工具。
项目：github.com/aindeev/agent-chr…
给几个 AI 同一道题：“画一只骑自行车的鹈鹕。”
以为能看到各显神通，几张图放在一起，却有点像同一个美术班教出来的。
作者把不同模型生成的图摆在一起，又放了一组不同画法作对照。这个问题一下就变得有意思了：题目明明留了那么多发挥空间，为什么答案会往相似的方向靠？
问问自个儿：让 AI 做设计，第一版能用之后，为什么不再追问一句——“换个完全不同的构图呢？”
