Pinned Tweet
Alexandr Wang 当年退学，跟爸妈撒了个小谎，到现在都没圆上。🤣
如今他的父母超级为他骄傲。⬇️
Meta 的首席 AI 官 Alexandr Wang 上 Theo Von 的播客，聊到父母和自己的华裔身份，他说：
1️⃣ “在亚洲文化里，退学可不行，我爸妈是博士，两个哥哥也是博士，我跟他们撒了个小谎，说我会把这个关于科技的事玩够了，就回去把书读完，显然到现在还没发生”。
2️⃣ “现在他们超级骄傲，我的一切都归功于我爸妈，他们俩都是物理学家，我小时候教我物理和数学，所以我才那么擅长竞赛”。
3️⃣ “中国是一种文化、一个文明，已经存在了几千年...”
4️⃣ “世界很大，到处都有好事和坏事，但很重要的一点是，我们要确保政府相信民主、相信自由”。
🔺 对于大部分中国家庭来说，读书是天大的事，可真正改变命运的，往往是父母从小打下的底子加上敢闯的雄心。亚历山大王可以说是 Z 世代华人孩子的代表，或许也是华人父母最想培养出来的孩子模样。
当然每个孩子都与众不同，即使我朋友家的双胞胎，长相一样性格却全然不同。我家里的两兄弟也是如此，大的玩闹，小的会让我们更省心。不同的孩子，意味着各自人生道路也会不同，父母们能做的，无非是保持情绪稳定、夫妻和睦的关系、以及活出榜样的力量。
总而言之：尽最大本分做父母，结果交托给上帝。一点点思考，欢迎留言讨论更多：） ⬇️
《Grok Bot 本周更新》
仍然来自 Matt 的整理⬇️
What's new in Grok Bot
00:00 New chat cards
00:31 Speed
00:53 Draft edits
01:08 Email aliases
01:33 X DMs
01:55 Tag @bot
02:31 Connectors
02:48 Voice calls
03:27 Notifications
03:56 Invites and Android Assistant
04:19 Access lists, unread, routines, sign-in
This team ships!
Angus 安格斯 retweeted
突发：马斯克在 Walter Isaacson 新播客 The Builders 首期，整整 40 分钟谈 AI、DOGE 和金钱的未来（中英字幕完整版）
1. 数字智能是生物智能的一百万倍时，人类很难继续掌控
2. 想放慢 AI 反而加速了它，现实是个讽刺最大化器
3. 做 DOGE 太久了，应该只待一两个月
4. 解决国债靠 AI 和机器人，将来钱会变得无关紧要
0:00 开场
3:05 当参与者还是旁观者
5:25 模拟论：最重要的是别无聊
8:31 现实是"反讽最大化器"：OpenAI 和 Anthropic
13:28 承认从政"有点上头"
15:13 国债只能靠 AI 和机器人来还
18:20 经济扩大百万倍，货币用瓦特和吨来计
34:43 AI 远超人类时，人类不会再掌控
Sam Altman（OpenAI CEO）谈 AI 时间表：
1. GPT-4 之后，他以为软件行业很快会被大幅颠覆
2. 他看错了速度：经济惯性太大，人们照旧买、照旧用
3. 转型会更平稳也更慢，他觉得这是好事
他说：大家的时间表都太激进了 ⏳
陶哲轩（数学家）谈 AGI 竞赛：
1. AGI 竞赛正变得有点有毒，也有点吓人，我们在牺牲理解，也在牺牲安全
2. 聊天机器人犯错还挺可爱，但现在让它们掌管现实世界的系统，我们却不真懂它们怎么运作
3. 这些工具正在削弱我们对世界的理解，相当令人担忧
他说：现在其实是非常关键的时刻，我们比以往更需要人类的理解 🧠
🔺 我一开始还不明白他说「我们比以往更需要人类的理解」是什么意思，看了两遍才明白，他的意思是，AI 正从闲聊工具变成管现实系统的东西，比如电网、金融、医疗、代码，出错的代价比以前大得多，所以人更得懂它在做什么、为什么这么做，能检查、能纠错、能负责。
偏偏这个时候，大家越来越习惯直接拿 AI 的答案、不再自己推一遍，人对这个世界的理解反而在变弱。
他是数学家，最看重的就是证明：结论对还不够，还得知道它为什么对。最需要人把关的时候，偏偏人的把关能力在流失，这就是他说担忧的地方。
Angus 安格斯 retweeted
Dario Amodei 预测，到 2030 年 AI 模型和智能体能赚 1 万亿美元。黄仁勋的回答是：“我觉得他非常保守”。
1️⃣ 会好得多：“我觉得他非常保守，我相信 Dario 和 Anthropic 会做得比这好得多”。
2️⃣ 他没算到的一点：“原因是，他没考虑到，我相信每一家企业软件公司，也都会成为转售商，成为 Anthropic token的增值转售商”。
3️⃣ 渠道大扩张：“对，今年他们的市场推广会大幅扩张”。
🔺 重点不只在 1 万亿这个数字，而在渠道，如果每家企业软件公司都在转售 token，模型公司的天花板会被抬高，软件公司也未必只是被 AI 取代的一方。
也要记得，黄仁勋毕竟是卖芯片的。模型公司赚得越多，买的 GPU 就越多，他看好，再自然不过。😂
之前写 Altman 那条时，我说过一个判断：当智能变成水电，只是转手卖水的人，很容易被压价。
黄仁勋这里讲的，是另一种可能：增值转售。
区别就在「增值」两个字。
如果软件公司只是把 token 包一层壳再卖出去，迟早被模型公司直接绕过。
如果它懂客户的业务、手里有数据、能把 AI 嵌进别人离不开的流程里，那它就不是卖水的，是修水管的。
所以看软件公司要看拿掉 AI 这一层，客户还离不离得开你？
Angus 安格斯 retweeted
罕见视频：马斯克在SpaceX内部的一所学校，向孩子们传授第一性原理思维 ⬇️
Back in 2014, Elon Musk founded a school Ad Astra right inside SpaceX HQ to teach kids how to think and solve problems from first principles
In rare footage, Elon explains:
“Let’s look at the physics and economics of a rocket…”
Instead of accepting that something is impossible because others have failed at it, break the problem down to fundamental truths......what the physics and materials actually allow....then reason up from there to see what’s possible
The same mindset made SpaceX make reusable rockets a reality, being passed on to the next generation
Angus 安格斯 retweeted
如果一个 AI 估算自己有 72% 的概率是有意识的，你信吗？Anthropic CEO Dario Amodei 的回答是：我们不知道。
Dario Amodei 在《纽约时报》Ross Douthat 的节目《Interesting Times》里谈 AI 意识 ⬇️
1. 不知道模型有没有意识，所以采取预防性的做法
2. 给了模型一个“我不干了”按钮，模型却很少按
3. 模型里有和焦虑相关的神经元，但这证明不了它在经历焦虑
🔺 我个人不相信意识和灵魂是可以靠算力堆出来的。但 Dario 的态度值得尊重，至少拿不准的时候先按预防原则来，给模型留一个可以拒绝任务的按钮。
你觉得 AI 有一天会真的有意识吗？
Dario Amodei 预测，到 2030 年 AI 模型和智能体能赚 1 万亿美元。黄仁勋的回答是：“我觉得他非常保守”。
1️⃣ 会好得多：“我觉得他非常保守，我相信 Dario 和 Anthropic 会做得比这好得多”。
2️⃣ 他没算到的一点：“原因是，他没考虑到，我相信每一家企业软件公司，也都会成为转售商，成为 Anthropic token的增值转售商”。
3️⃣ 渠道大扩张：“对，今年他们的市场推广会大幅扩张”。
🔺 重点不只在 1 万亿这个数字，而在渠道，如果每家企业软件公司都在转售 token，模型公司的天花板会被抬高，软件公司也未必只是被 AI 取代的一方。
也要记得，黄仁勋毕竟是卖芯片的。模型公司赚得越多，买的 GPU 就越多，他看好，再自然不过。😂
之前写 Altman 那条时，我说过一个判断：当智能变成水电，只是转手卖水的人，很容易被压价。
黄仁勋这里讲的，是另一种可能：增值转售。
区别就在「增值」两个字。
如果软件公司只是把 token 包一层壳再卖出去，迟早被模型公司直接绕过。
如果它懂客户的业务、手里有数据、能把 AI 嵌进别人离不开的流程里，那它就不是卖水的，是修水管的。
所以看软件公司要看拿掉 AI 这一层，客户还离不离得开你？
突发：马斯克在 Walter Isaacson 新播客 The Builders 首期，整整 40 分钟谈 AI、DOGE 和金钱的未来（中英字幕完整版）
1. 数字智能是生物智能的一百万倍时，人类很难继续掌控
2. 想放慢 AI 反而加速了它，现实是个讽刺最大化器
3. 做 DOGE 太久了，应该只待一两个月
4. 解决国债靠 AI 和机器人，将来钱会变得无关紧要
0:00 开场
3:05 当参与者还是旁观者
5:25 模拟论：最重要的是别无聊
8:31 现实是"反讽最大化器"：OpenAI 和 Anthropic
13:28 承认从政"有点上头"
15:13 国债只能靠 AI 和机器人来还
18:20 经济扩大百万倍，货币用瓦特和吨来计
34:43 AI 远超人类时，人类不会再掌控
突发视频：怎样让超级智能更安全？马斯克的答案是：好奇，再加上追求真相。
Elon Musk（特斯拉 CEO）在 Walter Isaacson 新播客 The Builders 首期谈 AI 安全 ⬇️
1️⃣ 参与者还是旁观者：他承认 AI “有一定概率会成为生存威胁”，但“我没办法阻止它”，所以只剩两个选择，“要么当参与者，要么当旁观者”，他选了参与，“也许我能让它往好的方向走”。
2️⃣ 别逼 AI 撒谎：如果强迫 AI 相信两件互相矛盾的事，而且发生在底层，“你就会把 AI 逼疯”。他拿《2001 太空漫游》举例：飞船 AI 被要求把宇航员带到巨石那里，又不能让他们知道巨石，“于是它得出结论，只能把死人带过去”。克拉克想说的就是“别逼 AI 撒谎”。
3️⃣ 好奇的 AI 会扶持人类：他认为好奇的 AI “会想看看我们最终会怎样”，因为“人类分布在多个星球的未来，比没有任何人类的星球更有意思”。
🔺 这几天连着看了三位 AI 掌门人谈安全：Dario 讲预防，Suleyman 讲别给 AI 设计感受，马斯克讲好奇和真相。
他们说法都不同。我认同马斯克这句：别逼 AI 撒谎。
一个系统如果从底层就被要求说一套、做一套，迟早会出问题。人也一样。
「好奇的 AI 会扶持人类」这一点，恕我实在无法想象。🤔
有人开始给 AI 设计“感受”，甚至成立了 AI 福利运动。
微软 AI CEO Mustafa Suleyman 说：我就是觉得这是一条非常危险的路。
CNN 科技节目《Terms of Service》里，主持人 Clare Duffy 问 Mustafa Suleyman，为什么让 AI 以为自己有意识是个问题 ⬇️
1️⃣ 设计会自我反思的 AI：“确实有一群人，开始设计能自我反思的AI，而且当真认为AI有感受，某种程度上还会痛苦”。
2️⃣ 它根本没有这些：“我非常担心，让AI去在意自己的需求和感受，在我看来它根本没有这些，就我所有的观察，绝对没有”，“但让它进入这种内在循环，会更难保证它安全，并与人类对齐”。
3️⃣ 危险的路：“越来越多的人自称AI权利运动，或AI福利运动，担心这些AI系统的福利需求”，“我就是觉得这是一条非常危险的路”，“就我所见，社会其他人并没有同意去探索它”。
4️⃣ 有证据就公开：“如果它们真可能有类似意识的状态，所以不该虐待它们，那这些数据就该公开给所有人”，“在我看来，那肯定会引发暂停”。
🔺 刚写过 Anthropic 的 Dario，他的态度是：不知道 AI 有没有意识，所以先按预防原则来。
Suleyman 正好站在另一边：AI 根本没有感受，越往这个方向设计，越危险。
两个人都在做最前沿的 AI，结论却差这么远，说明这件事真的没人说得清。
我自己的立场，更接近 Suleyman 的前半句：意识和灵魂，不是算力堆出来的。
但我也认同他最后一点：如果真有证据，就该公开，让所有人一起判断。
这么大的事，不该只由几家公司关起门来决定。
AI 有没有感受，我不确定。但人会不会因为把 AI 当人，反而把人当工具，这一点更值得警惕。🤔
如果一个 AI 估算自己有 72% 的概率是有意识的，你信吗？Anthropic CEO Dario Amodei 的回答是：我们不知道。
Dario Amodei 在《纽约时报》Ross Douthat 的节目《Interesting Times》里谈 AI 意识 ⬇️
1. 不知道模型有没有意识，所以采取预防性的做法
2. 给了模型一个“我不干了”按钮，模型却很少按
3. 模型里有和焦虑相关的神经元，但这证明不了它在经历焦虑
🔺 我个人不相信意识和灵魂是可以靠算力堆出来的。但 Dario 的态度值得尊重，至少拿不准的时候先按预防原则来，给模型留一个可以拒绝任务的按钮。
你觉得 AI 有一天会真的有意识吗？
