元国家安全保障補佐官スーザン・ライスは、「AIが超知能を達成し、人類の『絶滅』を引き起こすのを止めること以上に緊急なことはない」と述べている。
妖怪 加藤志異⏸️ retweeted
YouTube聞き流す、人類学。
宮台式葬儀論2をアップしました。
宮台真司先生と葬儀会社経営の増井康高さんが日本の葬儀について語ります。
聞き流してください!!
youtu.be/LU974MH9VBA?si=H_-G…
妖怪 加藤志異⏸️ retweeted
フジテレビ報道局さんの公式YouTubeチャンネルに@bioshok3(『知能爆発』著者)が出演!
関係者に衝撃をもたらしたアンソロピックの「開発速度2倍レポート」に始まり、ついに間近に迫りつつある「AIの再帰的自己改善」、その先の「繁栄か滅亡か」の未来像まで語っています。
興味を持たれたら、書籍『知能爆発』をぜひお求めください。大反響につき品切れの書店さんも多いですが、電子版のご用意もございます。
youtu.be/EoRUEUZWvec
妖怪 加藤志異⏸️ retweeted
本日19時から、ゲンロンカフェで人類の存亡に関わる議論をします
いや本当です笑
前半は、井上+『知能爆発』の著者bioshokさん+私の元教え子の落合さんで、AIによる超繁栄の可能性について論じます
後半は、大学休学Doomerの林央さんも交えて、絶滅の可能性について論じます
📈本日開催📈
知能爆発は経済をどう変える?
AIが研究開発・生産を担う世界。
成長は続くのか、限界はあるのか。
3年ぶり「夜の井上ゼミ」。
井上智洋×bioshokがAI経済を議論!
配信 shirasu.io/t/genron/c/genron…
来場 peatix.com/event/5219278
@tomo_monga @bioshok3 @OchiaiRyuga #ゲンロン261112
妖怪 加藤志異⏸️ retweeted
以前、りんご売りのバイトに来てくれた大学生が親に何のバイトをしてるのか聞かれて、出会い系のバイトしてるって言ったら心配で親から店に電話があった。
「そうじゃないけど、そうですね。
りんごの、出会い系のお仕事ですね」と言うと、不審感が一気に興味に反転して、お父さんもやってみたいって言い出して話がとても盛り上がったことがある。
りんご出会い系のバイト、皆さんも人生に一度は、おすすめです。
Replying to @bioshok3 @MIRIBerkeley
リンクはこれです。
donotaccept.ai/
超知能AI開発を禁止したい人はこの署名活動に参加しましょう!!!!!!AI 安全性分野を20年以上前から作った@MIRIBerkeleyが公式に支援してるサイトです。全員の命(子供たち、家族、友人)が賭かっています!
AI companies admit what they’re building might kill everyone. We don't have to agree to this.
Add your name at donotaccept.ai to say: we do not accept your terms.
妖怪 加藤志異⏸️ retweeted
AI研究が自動化される 知能爆発
研究開発が自動化される 技術爆発
生産活動が自動化される 産業爆発
この連鎖は、経済を変えるのか。
井上智洋×bioshokが、その先を考えます🚀
配信 shirasu.io/t/genron/c/genron…
来場 peatix.com/event/5219278
@tomo_monga @bioshok3 @OchiaiRyuga #ゲンロン261112
今何がガチでヤバいか、人類に何が起こってるのかを解説する。結論1-2年以内の超知能を中央シナリオとして真剣にとらえるべき証拠がMETRというAI評価機関から出てきた。AI2027というAIの未来シナリオよりも早く安全性界隈はみんな静かに着実に発狂中。
AI安全性界隈の人がみんな発狂してる理由はAI2027著者達でさえAI2027のように進む可能性は20-30%と考えてたのに今は「それよりも速いペース」で進展してるという証拠が得られたのがやばくて、
昔から安全性界隈ではファストテイクオフ(AI研究自動化から1年以内に超知能)VSスローテイクオフ議論(5-10年)があったんですけど、スローテイクオフならまだ人類に残された時間があるから良かった。そして界隈は2030年代前半あたりをみてたのに今や1年をきって、2027シナリオでさえファストテイクオフなのに、それより「5ヶ月はやい」というやばさ…!2027年8月に超知能が出てきてしまうかもしれないと戦慄が走ってる。
だからもう人類絶滅するのではとか家族に電話したほうがよいという話がガンガン出ているわけだ。
勿論まともな批判や留保もあって、これは一度限りの加速でまた落ち着くのではとかよく定義されたタスクだけ加速してるとかそういうのもあるけど、METRは非公開の情報から「加速してる可能性が高い」としてる。そしてAI研究はより少ないデータからより高いスコアを取るというよく定義されたタスクだという話もされている。
そして今後の進展でこの加速がぶち当たるボトルネックがあるか?という調査もされたが、いまのところみつかない。つまり速いテイクオフ、1-2年以内の超知能を前提にしたほうがよいという空気感がもうこの1日で急速に広がっている。
そしてアライメントも解けてないまま突入すると人類絶滅の可能性が普通にあるというのはほぼコンセンサスなのでガチでヤバい。普通の年(人類史)はもう今年で終わりだと思って振る舞ったほうがよいと感じる。
みんなMETRの報告書のヤバさをガチでわかってない。HF事件やサイバー攻撃のニュースよりも遥かに大事でこの数年でAIリスクに関する「最も重大な」ニュース。ファストテイクオフがガチで起こる可能性が高まってる。ヤバいって
planned-obsolescence.org/p/a…
→METR研究者「この報告書は、ここ数年でAIリスクに関して得られた最も重要な最新情報であり、ハギングフェイス攻撃よりもはるかに大きな意味を持つと思います。単純に言えば、この報告書は、ほとんどの外部研究者( AI 2027チームを含む)が予測していたよりもはるかに短いタイムラインを示唆しています。」
妖怪 加藤志異⏸️ retweeted
どういうトリックかマジで知りたい。
好きな人を当てたら絶叫されたw youtube.com/shorts/nUcIhK0Ge… @YouTubeより
【予約受付中】
休憩中まで準備に追われ、未来に現在を差し出し続ける。気づけば、時間はあっという間に過ぎている。人類は時計で測れる便利な時間を発明した。時間はやがて「資源」化された。私たちは、何か大切なものを失ってこなかったか。『#世界が速すぎると感じる人へ』
amzn.asia/d/03qw98Lr
妖怪 加藤志異⏸️ retweeted
聞き流す、人類学。「宮台式葬儀論」。
宮台真司先生と葬儀会社経営の増井康高さんに葬儀とは何か?
について語ってもらいました。
現代における葬儀とは、
多くの学びがあります。
聞き流してください!!
YouTube聞き流す、人類学。
「宮台式葬儀論1」
youtu.be/OO_8yLzeOxo?si=uTz6…
妖怪 加藤志異⏸️ retweeted
今週は撮ってみたい動画の企画などについてゆるく語り合う『ラジオ・聞き流す、人類学。の木曜会』を配信します。
名古屋がおもしろい!
というお話です、聞き流して、ください!
#名古屋駅西
#まちづくり
#フリーペーパー
#リニア
youtu.be/ZsjUDL8vB6Q?si=unK-…
妖怪 加藤志異⏸️ retweeted
現在マスク氏は「人類が超知能を永遠に制御し続けることは不可能かもしれない」と認め、AIと人類が共存し、共に進化していく未来を模索する考えへと変化させている。
「ラリーペイジが正しかったかもしれない」イーロン・マスクが語ったAIと人類共存の道
news.yahoo.co.jp/articles/08…





























