AI Researcher at Tommoro Robotics Robot learning, vision-language-action (VLA) models, and multimodal AI GitHub: https://xitter.cf/t.co/guyMx6b5Py
Joined January 2022
- Tweets15
- Following66
- Followers2
- Likes7
Jisu An retweeted
🚨 10 REPOS DE GITHUB QUE DEBERÍAN SER ILEGALES
(están destruyendo +50.000 millones de dólares en ingresos a grandes empresas)
GUÁRDALO.
1. yt-dlp
Descarga cualquier vídeo de YouTube, X, TikTok, Instagram y muchas otras plataformas.
YouTube Premium cobra 14 $ al mes por hacer menos que esto. Es 100 % gratuito.
Repo → github.com/yt-dlp/yt-dlp
2. Ollama
Ejecuta modelos de IA de nivel GPT-4 directamente en tu portátil. Sin costes de API.
Muchos desarrolladores gastan 500 $ al mes en OpenAI para tareas que Ollama puede hacer sin conexión por 0 $.
Repo → github.com/ollama/ollama
3. Fooocus
Generación de imágenes con calidad similar a Midjourney usando tu propia GPU.
Midjourney cuesta 30 $ al mes.
Fooocus permite generaciones ilimitadas de forma gratuita.
Repo → github.com/lllyasviel/Fooocu…
4. Whisper
El modelo de transcripción de OpenAI, liberado como código abierto.
Otter cobra 20 $ al mes por algo que Whisper hace gratis y en 99 idiomas.
Repo → github.com/openai/whisper
5. Plausible Analytics
La alternativa de código abierto y centrada en la privacidad a Google Analytics.
Google Analytics 360 cuesta hasta 150.000 $ al año para empresas.
Plausible, alojado por ti mismo, cuesta 0 $.
Repo → github.com/plausible/analyti…
6. AppFlowy
El Notion de código abierto. Notion cobra 20 $ por usuario al mes para equipos.
AppFlowy permite usuarios ilimitados en tu propio servidor de forma gratuita.
Repo → github.com/AppFlowy-IO/AppFl…
7. Penpot
La alternativa open source a Figma. Figma cobra 45 $ al mes por editor.
Penpot ofrece prácticamente la misma experiencia, autoalojada y gratis para siempre.
Repo → github.com/penpot/penpot
8. n8n
El Zapier de código abierto. Zapier Pro puede costar hasta 600 $ al mes para automatizaciones complejas.
n8n, autoalojado, permite automatizaciones ilimitadas por 0 $.
Repo → github.com/n8n-io/n8n
9. Cal.com
La alternativa open source a Calendly. Calendly Teams cuesta 16 $ por usuario al mes.
Cal.com es gratuito para particulares y de código abierto para equipos.
Repo → github.com/calcom/cal.com
10. Bitwarden
La alternativa de código abierto a 1Password.
Muchos gestores de contraseñas cobran unos 8 $ por usuario al mes.
Bitwarden ofrece una versión gratuita muy completa y es de código abierto.
Repo → github.com/bitwarden/server
Estos repos están destruyendo silenciosamente 50.000 millones de dólares en ingresos a grandes empresas cada año.
Ninguno de ellos es ilegal.
Guarda este hilo.
Compártelo con esa persona que sigue pagando por herramientas que llevan años teniendo alternativas gratuitas.
100 % gratis. 100 % código abierto.
Jisu An retweeted
Princeton's Introduction to Robotics! 🎓
Princeton University released their full Introduction to Robotics course publicly with lecture videos, notes, slides, and assignments.
This course provides fundamental theoretical and algorithmic principles behind robotic systems with hands-on experience.
Topics covered:
→ Feedback Control (dynamics, PD control, Linear Quadratic Regulator)
→ Motion Planning (discrete planning with BFS/DFS, optimal planning with Dijkstra/A*)
→ State Estimation, Localization, and Mapping (Bayes filtering, Kalman filtering, particle filtering, SLAM)
→ Vision and Learning (optical flow, deep learning, convolutional networks, reinforcement learning), and broader topics including robotics and law, ethics, and economics.
Assignments include theory, programming, and hardware implementation components. The final project has students program drones for vision-based navigation with attached cameras transmitting real-time images.
All lecture videos, notes, slides, and assignments are freely available.
Prerequisites include multivariable calculus, linear algebra, basic probability, basic differential equations, and some programming experience in Python.
‼️ GO FOR IT: irom-lab.princeton.edu/intro…
~~
♻️ Join the weekly robotics newsletter, and never miss any news → ziegler.substack.com
Jisu An retweeted
有点震撼。。。我们可能真的快要搞清楚大模型内部到底是怎么运作的了。
OpenAI早期机械可解释性研究的参与者，昨天突然提出了一个很大胆的结论：
我们可能一直误解了神经网络。
昨天， @nickcammarata 发了一篇很有意思的文章，叫《Neural Networks Are Already Clean》。
这哥们早年就在OpenAI做机械可解释性研究，2023 年还牵头启动了@OpenAI 第一个大规模自动化神经元解释项目。
当时他们发现，现有工具只能解释大约 2% 的神经元。
Nick因此得出了一个很悲观的判断：神经网络内部存在大量纠缠，想搞清楚它们到底在干什么，可能非常困难。
结果三年后，他带着更先进的工具和Agent重新研究，发现情况完全不同。
在他们测试的现代视觉模型中，最后一层 99%～100% 的神经元都能找到相当清晰的解释。
甚至在Qwen3-32B这样的语言模型中，初步研究也发现，约90%的神经元都有一个可以识别的主要功能。
最有意思的是，他还重新研究了过去的一些经典案例。
比如曾经有一个神经元，既会对猫脸产生反应，也会对汽车前脸产生反应。
以前大家觉得，这是典型的Superposition，多个不相关的概念纠缠在了同一个神经元里。
结果重新研究后发现，这个神经元可能只是在识别一种共同的V形视觉结构。
猫脸和汽车前脸恰好都有这种特征。
全世界的家人们折腾了这么多年，可能连最基础的观察方式都有问题。
而且我觉得这篇文章最值得关注的，其实是他们使用 Agent的方式。
他们让Agent自动观察神经元、提出功能假设、设计实验、分析电路，再通过新的输入验证假设，甚至自动审查了10 万张神经元归因图。
这其实也是我最近一直关注的一个方向：让 AI 自己去做科学研究，把大量观察、假设、验证的工作自动化。
过去需要研究员花大量时间逐个分析的神经元，现在已经可以让Agent成规模地开展研究了。
当然，目前这些结果还处于早期阶段，距离完整解释大模型的内部机制，还有很多工作要做。
但我觉得Nick提出的这个观点非常有意思：
神经网络内部可能一直都很有规律，只是过去我们的工具太原始，根本看不清楚。
如果这个方向最终被验证，机械可解释性领域过去很多基础假设，恐怕都需要重新审视了。
interpretability might be the most important scientific problem in the world right now, as I don't think we can solve alignment if we don't know what we're building. I think I have good news about it. I co-authored early work in mechanistic interpretability at OpenAI and came away pessimistic, because neural networks appeared to fold into arbitrary tangled knots. years later, I started openai's first large-scale automated interpretability project, finding about 2% of neurons legible with the primitive tools we had
with modern agentic tools and a much closer look, the picture looks totally different. the vast majority in models up to trillions of parameters are legible, and their circuits beautiful. many famous examples of tangled neurons turned out to be misunderstood. The roadblocks I expected mostly aren't there. I now think ambitious interpretability will be solved by the time we need it most, and possibly quite soon, as automated scientists keep improving. it may be a bitter lesson for interpretability: the simple thing, at absurd scale, works
already-clean.goodfire.com/
Jisu An retweeted
Today we’re releasing Muse Spark Open, the most capable US open-weight model to date.
Built for coding and agentic work, it excels at long-horizon tasks, complex software engineering, and multi-step reasoning.
Key Model Specs:
→ 816B total / 42B active parameters
→ 1M token context window
→ Natively multimodal across text, image, video, audio
Jisu An retweeted
SFT is not dead! 🥳
We found a way to make SFT rival current prevailing posttraining methods, often generalizing better and forgetting less than RL and OPSD. 🤯
Following our prior work on reasoning with sampling, we now introduce sampling to the posttraining stack.
1/n
Jisu An retweeted
Everyone says learn inference, learn CUDA,learn ML
But almost nobody tells you exactly what to learn, how to learn it, or how to know whether you’ve actually learned it.
Introducing Trentorch.com a free, open-source platform to learn and practice Machine Learning, CUDA, and inference through hands-on coding.
Instead of just watching lectures or reading theory, you’ll:
• Learn the theory behind each concept
• Follow step-by-step implementation examples
• Solve coding challenges based on what you learned
• Implement algorithms from scratch, from foundational ML to Inference and CUDA kernel
• Practice problems in a Codeforces-style environment
• Get new Problem of the Day challenges with ratings
The goal isn't just to teach you how to write the code.
It’s to help you understand what your code is actually doing underneath.
We’re building Trentorch because advanced education shouldn’t be locked behind expensive subscriptions.
Money shouldn’t be the barrier to learning ML, inference, or CUDA.
A free alternative to platforms that charge students heavily every month.
signup and start solving problems now
Trentorch.com
Jisu An retweeted
𝗔 𝗙𝗶𝗿𝘀𝘁 𝗖𝗼𝘂𝗿𝘀𝗲 𝗶𝗻 𝗖𝗮𝘂𝘀𝗮𝗹 𝗜𝗻𝗳𝗲𝗿𝗲𝗻𝗰𝗲（免费490页教材）
作者Peng Ding，UC Berkeley统计系教授，这本书是他教了七年因果推断课的讲义整理，对应本科生的Stat 156和研究生的Stat 256两门课，所以内容只要求概率论、统计推断、线性和逻辑回归的基础，本科生也能啃。
开篇从Yule-Simpson悖论讲起，先講相关和因果的界限，再往下铺开识别、估计、纵向数据这些内容。配套R代码和数据集放在Harvard Dataverse上，CC BY 4.0协议免费下载。
想再补一本参考书的话，Kirk Borne同时推荐了Judea Pearl的《Causal Inference in Statistics: A Primer》，两本一起看，一本教怎么做，一本讲为什么这么想。
链接：arxiv.org/abs/2305.18793
Jisu An retweeted
GPT-6 does real2sim end to end from robot demonstrations.
I gave it only multi-view RGB and robot actions, and one simple prompt.
It calibrated the cameras, built the object assets, performed physics system-ID, ran MuJoCo, and rendered in Blender.
Jisu An retweeted
Found a genuinely useful repo for anyone writing ML papers.@ChenLiu_1996
A Yale CS PhD shared the Python scripts behind figures from Nature Machine Intelligence, ICML, NeurIPS, and ECCV.
Maybe I can finally stop spending half my research life moving matplotlib legends by 3 pixels.
github.com/ChenLiu-1996/figu…
Jisu An retweeted
剑桥这回直接扔王炸了！！
AI & ML经典教材全集直接免费开放，PDF随便下。
想学机器学习又不想被割韭菜买高价课的，这十本刷完，底子基本就硬了。
顺序从易到难排好了：
1️⃣ 《机器学习理解》——理论算法一把抓，零基础入门首选
🔗 cs.huji.ac.il/~shais/Underst…
2️⃣ 《机器学习数学基础》——数学底子弱的先把这本补上
🔗 mml-book.github.io/book/mml-…
3️⃣ 《机器学习算法的数学分析》——深入数学原理
🔗 tongzhang-ml.org/lt-book/lt-…
4️⃣ 《深度学习理论原理》——搞懂DL背后的理论根基
🔗 arxiv.org/pdf/2106.10165
5️⃣ 《神经网络与机器学习》——神经网络的系统讲解
🔗 arxiv.org/pdf/1901.05639
6️⃣ 《图深度学习》——图神经网络入门必读
🔗 yaoma24.github.io/dlg_book/d…
7️⃣ 《机器学习的算法视角》——从算法角度重新理解ML
🔗 people.csail.mit.edu/moitra/…
8️⃣ 《概率论：理论与实例》——概率基础打牢
🔗 sites.math.duke.edu/~rtd/PTE…
9️⃣ 《应用概率基础》——概率论实战应用
🔗 sites.math.duke.edu/~rtd/EP4…
🔟 《高级数据分析》——数据科学进阶必备
🔗 stat.cmu.edu/~cshalizi/ADAfa…
说句实话，这些书没一本是轻松的，别指望躺着翻完。
但只要你能硬啃下来两三本，比听群里吹一年AI牛逼都管用。
Jisu An retweeted
Stanford CS336 上，Tatsu 讲了一节 LLM 架构课，把过去 3 年所有主流 LLM 拆开，看它们的共通模板
结论挺爆：90% 的架构选择已经收敛，你随便挑一个开源大模型，它跟其他模型在这些维度上几乎一模一样
讲师的原话
- 2024 年大家都在 cosplay Llama2
- 2025 年的主题是「怎么训得不崩」
- 2026 年的主题是「怎么扛住长上下文」
下面是 2026 年开源 LLM 的标准模板 你训自己的模型可以直接抄
【架构层 已经收敛的 7 件事】
1）Layer Norm 挪出残差流（pre-norm）
原版 Transformer 把 LN 放在残差里 几乎所有现代模型都挪到外面
原因：keep your residual stream clean 梯度反传更稳
2）RMS Norm 替代 LayerNorm
LayerNorm 的减均值 + 加 bias 那部分实际没怎么帮上忙
丢掉之后 flops 只省 0.17% 但运行时省到 25%
（瓶颈在数据搬运 计算反而次要）
3）所有 bias 项全删
跟 RMS Norm 一个道理 系统层省内存搬运
4）激活函数用 SwiGLU 或 GeGLU
gated linear unit 几乎所有现代模型都用
Llama 系 / Qwen / Mistral 用 SwiGLU
Google 系（Gemma / T5）用 GeGLU
区别极小 选哪个都行
5）位置编码用 RoPE
2024 年之后基本统一了
原理：把每对维度按位置旋转一个角度 让 inner product 只依赖相对位置
6）Transformer block 串联（不是并联）
GPT-J / Palm 试过并联 现在基本被放弃
串联的实现优化得太好了 并联省的那点系统开销不值得损失表达力
7）Layer norm 可以「撒」
哪儿不稳就在哪儿加 LN
attention 之前能加 之后能加 两边都加（double norm）也可以
现代模型很多这样做
【超参数 已经收敛的 5 个数】
1）feedforward 维度 / hidden 维度
- 非 GLU 模型：4 倍
- GLU 模型：8/3 ≈ 2.67 倍（因为 GLU 多一组矩阵 要保持总参数量）
- Llama 系：3.5 倍
- T5 1.0 试过 64 倍 后来 T5 1.1 改回标准 别学
2）head 数 × head 维度 ≈ hidden 维度
几乎所有模型都遵守 T5 是为数不多的例外
3）模型纵横比（hidden / 层数）≈ 100
太深 pipeline parallel 难做
太宽 表达力受限
100 这个数字是系统约束 + 表达力的平衡点
4）vocab size
单语模型：30K 左右（早期 GPT-2 那种）
多语 / 通用模型：100K-200K（GPT-4 / Llama 3 / Gemma 都在这个范围）
现代基本都是后者
5）weight decay
仍然普遍使用
但研究发现它在 LLM 里干的事其实是优化器干预 让你最终能收敛到更深的最优点
跟你想的「防过拟合」没什么关系
所以别因为「单 epoch 不会过拟合」就把它关掉
【稳定性 三个救命 trick】
训练大模型最怕中途 loss 突然飙升 然后 NaN 全军覆没
现代模型用三个 trick 防这件事
1）Z-loss
output softmax 的 normalizer 容易爆
加一个 (log Z)² 的正则项 让 Z 始终接近 1
DCLM / Olmo 都用
2）QK norm
attention 的 Q 和 K 在矩阵乘之前各加一个 LN
让 softmax 的输入永远是单位尺度
multimodal 圈先用起来 现在所有大模型都加
3）Logit soft cap（仅 Google 系）
attention logit 用 tanh 硬封顶
Gemma 2/3/4 都在用 但会损失一点点性能 慎用
【Attention 两个新趋势】
1）GQA（Grouped Query Attention）几乎统一
原版 multi-head 推理时 KV cache 会让算术强度崩到 1/h
GQA 共享 K 和 V 但保留多个 Q
表达力几乎不损失 推理成本砍掉 80%
现在所有要做生产部署的大模型 没有不用 GQA 的
2）局部 + 全局 attention 交替
处理长上下文的新方式
Cohere Command A 起头 现在 Llama 4 / Gemma 4 / Olmo 3 全在用
比如每 4 层有 1 层 full attention 其他 3 层是 sliding window 只看附近的 token
比纯 SSM 更稳 比纯 full attention 便宜得多
（Qwen 3.5 做了变体 把 sliding window 那 3 层换成 SSM）
收尾一句
如果你正在训自己的 LLM，上面这一套就是 2026 年的「默认配置」 不需要重新发明，直接抄
如果你只是想看懂 GitHub 上那些 modeling_xxx.py
这一份足够你不再被术语吓住
Anthropic pays $750,000+ a year for engineers who can build LLM architectures from scratch. Stanford taught the entire thing in 1 hour lecture & released it for free.
Bookmark & watch this today before someone takes it down.
Readers added context they thought people might want to know
The video is Lecture 3 on architectures and hyperparameters from Stanford's 19-lecture CS336 course "Language Modeling from Scratch," which covers the full process including data, training, and evaluation; one lecture does not teach building LLMs from scratch. youtube.com/watch?v=ptFiH_… stanford-cs336.github.io/spring2025/
