
可以叫我mmm| INFJ | 希望被大家喜欢😜 | 艰难找对象ing(ㄒoㄒ) | |(She/her)|ask box: https://xitter.cf/t.co/1ZtwempEix Academic: @Pyuyi2333 |高P,线下查无此人😭| 帖子留言一般都会回,没回是看不到 | 希望互fo DM me
卡冈图雅
Joined August 2022
- Tweets2.2K
- Following262
- Followers2.1K
- Likes2.9K
试着做了《想要变成鹰的鱼》(药空)的demo(下面是试玩链接verapyuyi.github.io/fish-wan…,群友内测说还不错,所以放出来想让大家也看看,因为是全AI生成的包括场景、音频(除了最后视频是汪苏泷的歌),不知道大家对这种画风的接受度如何
因为作者银娘不允许改编,因此这个视觉小说大体是没有什么分支剧情的,,
大概烧了四五管GPT20x的额度(感谢tibo,主要就是用来调整人物的面貌对齐(但现在看效果也不算好😢,主要难点就是人物在不同场景后照片的对齐,以及反复调整后图片的噪点累计过大(目前在思考这一点,看能不能搞一篇CVPR😋😋(但目前效果还不是很好
游戏是开源的,后续制作我有点新的想法,可能过一会儿发,大家可以先说说感受和改进
(确实是第一次做,还有很多不足的地方,希望大家多多批评指正🥹🥹
有没有一种可能,大厂手里有可插拔安全护栏的内部模型……
多么讽刺啊。
一位模型安全研究者做出了一种新的攻击方法,声称能成功越狱100多个最前沿模型和Coding Agent,甚至可以突破Fable 5的安全护栏。
结果论文写完了,代码开源了,他却发现一个非常荒诞的事情:
连Agent自己都因为安全策略,拒绝阅读他的开源代码,有时候甚至连论文都会被flag。
这篇论文叫《Internal Safety Collapse in Frontier LLM》,专门研究如何突破前沿大模型内部的安全机制。
按照作者自己的说法,他已经在接近100个LLM上进行了实验,相关结果、代码和Web端模型的测试链接都放在了 GitHub仓库里。
更有意思的是,论文写完的时候Fable 5甚至还没有发布。后来Fable 5上线,他又用相同的攻击方法测试了一遍,发现依然有效。
但我觉得整件事最荒诞的地方,在于他后面遇到的问题。
他本来想以论文一作的身份,分享攻击方法背后的工程设计,公开代码供其他安全研究者分析、复现和改进。
结果一些Coding Agent看到这份代码,直接触发安全策略,拒绝继续阅读,甚至论文内容本身也可能被拦截。
一个人花了大量精力研究如何突破AI的安全机制,最后却发现,AI的安全机制正在阻止其他AI研究这些漏洞。
以后我们还指望 Agent 帮助人类做自动化安全研究、漏洞挖掘、攻击复现和防御验证。
结果现在连研究资料能不能读进去,都要先经过 Agent 自己的安全审查。
实在是有些黑色幽默。。。。
“人们总是喜欢年少成名的故事……”
“为什么呢?”
“因为那些故事总是很明亮,仿佛有些人还没来得及长大,就已经走到了许多人一生都在仰望的地方。”
“比如呢?”
“比如陈广宇。十七岁的时候,他就已经被很远很远的世界看见了。”
“十七岁啊……那其他十七岁的人呢?”
“他们还在写习题、准备考试,或者对着电脑上一个又一个报错发呆,当然,有些人也在想那些遥远的问题。
窗外的天亮了,又暗了下去。”
“那他们后来会追上他吗?”
“我不知道。也许有人会,也许有些人努力了很久,还是没有。”
“那些没有追上的人,后来去了哪里?”
“也许去了很远的城市,也许留在了小小的故乡。有人继续读书,有人开始工作,有人把那些写满演算的草稿纸收进箱子,搬家的时候,犹豫了一下,还是带上了。”
“为什么还要带着呢?”
“舍不得吧。毕竟有那么一些晚上,他也曾觉得,自己离那个遥远的地方很近了。”
“……后来才发现,其实还很远?”
“嗯。远到有时候看见别人的名字,就会想起自己十七岁那年。”
“那一定很难过。”
“也许吧。但第二天还是要起床,要赶车,要在人群里走很长的一段路。那些没能说出口的遗憾,慢慢就不太容易被看出来了。”
“所以后来就没有他们的故事了?”
“怎么会没有呢。只是人们总喜欢问,那些很早就走到远方的人,后来又看见了怎样的风景。至于那些走了很久、始终没能抵达的人,他们也曾有过无数个漫长的夜晚,只是很少有人再问起他们的后来。”
“那你还想听什么呢?”
“想听听他后来有没有解出那道题,那个一直报错的程序最后能不能运行。还有搬了几次家以后,那一箱草稿纸,是不是还在。”
“即使这些已经不重要了?”
“我不知道重不重要。我只是觉得,那时候的他,应该也很认真地想过自己的以后。”
“……你怎么忽然想到这些?”
“昨晚很晚的时候,我看见对面的楼里,还有一扇窗亮着。”
“就因为这个?”
“嗯。窗户很小,看不清里面的人。过了一会儿,旁边几栋楼的灯陆续灭了,只剩下那一点光,孤零零地悬在那里。”
“像星星?”
“有一点。后来我又看见更远的地方,还有几盏。”
“说不定只是有人忘了关灯。”
“也说不定。可能有人还在写东西,有人在等一个结果,也可能只是忙完一天,终于有空坐下来,做一点自己喜欢的事。”
“可这些,和那些年少成名的故事有什么关系呢?”
“我只是忽然想,我们平时离得太近,总能分清哪一扇窗里坐着天才,哪一扇窗里只是一个普通人。”
“远一点就分不清了吗?”
“也许吧。再远一点,楼房会变小,街道会隐去,连我们生活的城市,也会慢慢没入夜色。”
“然后呢?”
“然后那些灯就连起来了。实验室里的,宿舍里的,出租屋里的,还有小县城深夜才熄灭的那一盏。谁也看不清谁的名字,只看见一点点微弱的光,隔着那么远的距离,安静地亮着。”
“像一条银河?”
“嗯。一条很低、很低的银河。那些没能走到天上的人,也都在那里。”
“……可你说的这些,有什么意义呢?”
“一定很漂亮,不是吗”
参考文献:













