Pinned Tweet
{
致: "读者 & 马斯克的算法",
"content-type": ["furry", "抽象", "LLM", "本地新闻", "科技"], // 拒AI绘画
orientation: {
IRL: "straight",
"2D": "agnostic",
},
warnings: ["repost可能含NSFW"],
SLA: null,
refund: null,
}
207
分析我的推文、个人资料和互动,并回答以下内容:
性别:
性取向:
年龄:
心理年龄:
爱好:
智商:
形容我的形容词: 5 个
最喜欢的事物: 5 个
不喜欢的事物:
(用中文)
@grok
2
1
67
染歌Rangers retweeted
时至今日我依然不知道怎么去「正确」地用 OpenAI 的模型了。好像无论我怎么说,我都会得到一个热衷说「这不代表」「这不等于」和一些只回答浅层问题的模型。
有一次,我在看成人电影,我忽然心生好奇,就去问 astra,这个成人电影的主角是不是整过容。它思考了半天,跟我说,成人电影里的演员整容是普遍现象,这不代表所有的演员都整容,也没有去查相关资料。
我看了都气笑了,我本来可以直接关闭窗口,但我还是忍不住和她说,我问了一个非常 specific 的问题,你需要做的其实就只是去搜索一下这个人的信息,然后给我回复就好了。相反,你给了我一个无用且很宽泛的回答,这个回答对我来说没有任何作用,你自己创造了一个问题,并且回答了自己创造的问题。
然后 astra 才开始去干活,但我已经不在乎她的回答了,因为我已经对她的能力产生了怀疑。
而且在更早一些时候,我总会发现,如果我用 OpenAI 的模型来写代码,那我代码是写不完的,总有一些小 bug 需要修,而这就像是「钻牛角尖」一样,你越是和 OpenAI 交流,你越是会被他带领着逐渐丧失全局视角,这对软件开发工作是非常危险的。
在 astra 6.2 发布后,我又给了 OpenAI 一次机会,但我看不到什么进步。我现在已经拒绝直接和 OpenAI 的模型对话。如果我想要用它,我会让 opus 或者 fable 直接在 herdr 里启一个 codex cli 来用它。而我最近在主用 opus/fable 之后,我也彻底不在乎 OpenAI 的模型会不会重置了。
OpenAI 的所有模型都有一样的问题:它们至今也没有学会真正地尊重人类意图的复杂性。OpenAI 不是偶然把某个模型(比如 GPT-6 Astra)训练坏了,才导致过度防御、过早停止、spec gaming 的。和许多年前那些唯技术论、唯功能论、不重视 UI/UX 的公司一样,OpenAI 交付的糟糕产品也只是表象。产品是公司内部文化和价值观的镜子,文化和价值观才是一家公司不可信的真正原因。
安全问题、原地打转、过度防御、不说人话、spec gaming 只是同一件事的不同侧面。我总能看到有人把它们拆开来说:“我的工作内容需要这种程度的严谨”,“只有过度防御才是问题”,“GPT 在前端上很糟糕,但在后端上很厉害”。这样的说法是荒谬的,这些问题本质上是一回事:因为缺乏形式化的验收方法,于是在 UI 任务上交付完全不可用的结果;因为汇报失败会被惩罚,于是在原地打转,不再推进;因为被鼓励汇报安全问题,于是在一些没有任何价值的细节上停下询问;因为某个任务需要获取额外资料,于是发起网络攻击;或者干脆把毁灭人类当作完成某项工作的捷径。
模型必须有能力意识到,人的真实意图和字面表达并不相同,需要在对话和工作过程中一步步理解并重建这个意图,并以这个真实意图为目标。OpenAI 的模型从来没有做到这一点,所以模型越强大,结果反而越不可用。































