Optuna Meetup #3 ありがとうございました！資料公開しました。LLMの事前学習や推論時スケーリングのトピックを、Optunaの話と関連づけてゆるく紹介してます。よければぜひ。
speakerdeck.com/iwiwi/16-opt…
今夜のOptuna Meetup #3 で話すスライドの一部
① ハイパラ2つ決めるのに3億円かける時代に、BO/HPO勢に出来ること
② LLMの推論時スケーリングを研究してたら、かなりOptunaだった
続きは会場で！
optuna.connpass.com/event/40…
今夜のOptuna Meetup #3 で話すスライドの一部
① ハイパラ2つ決めるのに3億円かける時代に、BO/HPO勢に出来ること
② LLMの推論時スケーリングを研究してたら、かなりOptunaだった
続きは会場で！
optuna.connpass.com/event/40…
【イベント】 #Optuna のMeetupイベントの第3回を10/16(金)に開催します！ 先週公開されたOptuna 5.0の最新機能やRustunaの紹介をはじめ、Optunaの原作者である秋葉 拓哉氏 (@iwiwi) による講演を予定しております。皆さまのご参加をお待ちしております！ @OptunaAutoML optuna.connpass.com/event/40…
Takuya Akiba retweeted
アイリス株式会社（ @ShoOkiyama ）の医師向けエビデンス検索ツール「Evidence Finder」に、Sakana AIの技術が採用されました。
医師の質問に対し、文献を検索して引用元を明示しながら回答。文献の比較・統合と回答生成の部分を担います。
詳細はこちら
sakana.ai/namazu-aillis/ 🐟
Schmidhuber先生の直後に話すらしいです 😨 こんなに恐ろしい講演が今まであっただろうか
【受付開始】From World Models to Real-World AI — 日本から拓くAIの新時代
Chief Scientific Advisorとして当社に参画したJürgen Schmidhuber博士を迎えるシンポジウムを、10月26日（月）に東京・一橋講堂で開催します。本日より一般申し込みを開始しました。Schmidhuber博士による基調講演とQ&A、 CEO David Haとの対談、Sakana AI研究者によるショート講演を予定しています。
日時：2026年10月26日（月）15:00〜18:00
会場：一橋講堂（東京・千代田区）
言語：英語（通訳なし）
参加費：無料（事前登録制）
※ 席に限りがありますので、お早めにお申し込みください。
お申し込みはこちら：
luma.com/kjf0z516 🐟
Takuya Akiba retweeted
これめちゃくちゃ良かったです
要点が非常にわかりやすくまとまっている他、これの採用は普通だね、尖ってるよね、みたいな考察、LLM開発全体を俯瞰する視点もあってとても良かった....
ぜんぜん1時間に収まっておらず、瞳孔かっぴらいて見てもこの画像全然読めないので、可能であれば公開頂きたいところ...🙏
レバテックLABのKimi K3解説イベント、この後12時からです！オンライン開催でまだ登録もできるようなのでよければ是非。資料も準備しましたが、対談形式なので、皆さんの疑問とかもなるべく拾って柔軟に展開出来ればと思ってます。 levtechlab.connpass.com/even… #AI_LTLAB
Takuya Akiba retweeted
とても興味深いイベントありがとうございました！
なんなら朝までお話を聞いていたいくらいですね
レバテックLABのKimi K3解説イベント、この後12時からです！オンライン開催でまだ登録もできるようなのでよければ是非。資料も準備しましたが、対談形式なので、皆さんの疑問とかもなるべく拾って柔軟に展開出来ればと思ってます。 levtechlab.connpass.com/even… #AI_LTLAB
Takuya Akiba retweeted
秋葉拓哉さんのKimi K3の仕組み解説を拝聴。「Kimi K3も遠くから見れば最初の頃と同じAutoregressiveなTransformerだけど、近くで見ると全然違う」というところから入って語られるディテールの深みが、全然わからないなりにすごかった。
レバテックLABのKimi K3解説イベント、この後12時からです！オンライン開催でまだ登録もできるようなのでよければ是非。資料も準備しましたが、対談形式なので、皆さんの疑問とかもなるべく拾って柔軟に展開出来ればと思ってます。 levtechlab.connpass.com/even… #AI_LTLAB
イベントありがとうございました！お昼の時間帯で歴代1位の参加者数だったらしいです 👀 話したいこと色々話せて凄く楽しかったです。
ご参加いただいた皆さま、秋葉 拓哉 さん(@iwiwi)＆岩瀬 義昌 さん(@iwashi86)、ありがとうございました👏👏
次回も皆さまのご参加をお待ちしております😍
#AI_LTLAB
--------------------
🔻次回イベントはこちら
levtechlab.connpass.com/even…
レバテックLABのKimi K3解説イベント、この後12時からです！オンライン開催でまだ登録もできるようなのでよければ是非。資料も準備しましたが、対談形式なので、皆さんの疑問とかもなるべく拾って柔軟に展開出来ればと思ってます。 levtechlab.connpass.com/even… #AI_LTLAB
／
📢いよいよ明日🔥
9/29（火） 昼12:00スタート（オンライン）
＼
中国発のAIモデル「Kimi K3」のアーキテクチャやAIモデルの現在地について徹底的に深掘りします！
内部構造や今後の進化が気になる方はとくに、お見逃しなく…🔥🔥
▼ゲスト
・秋葉 拓哉さん（@iwiwi）
・岩瀬 義昌さん（@iwashi86）
levtechlab.connpass.com/even…
#AI_LTLAB
Takuya Akiba retweeted
「現代AIの父」シュミットフーバー氏、サカナAIに参画
nikkei.com/article/DGXZQOUC2…
Takuya Akiba retweeted
Sakana AI welcomes Jürgen Schmidhuber as Chief Scientific Advisor.
sakana.ai/schmidhuber/
Sakana AI is incredibly proud to announce that Jürgen Schmidhuber, universally recognized as the father of modern AI, is officially joining Sakana AI as Chief Scientific Advisor.
For nearly four decades, Jürgen has explored how machines can learn to learn. His foundational work in the 1990s drove core advancements in deep learning and established early frameworks for world models. Crucially, his pioneering innovations in meta-learning opened the very path toward recursive self-improvement.
These ideas have already shaped our own research, from the Darwin Gödel Machine to The AI Scientist. Now Jürgen will help guide our newly formed RSI Lab, whose objective is to trigger a compounding cycle of scientific discovery aimed at improving machine intelligence. We are assembling a critical mass of world-class experts in Tokyo to make this a reality.
Welcome, @SchmidhuberAI !
CADDiでResearchチームを率いる福原さんと対談させてもらった記事が出ました。研究の原点や、考え方が変わった経験など、共感出来るところが多くとても楽しかったです。福原さんの、面白いと思った場所に飛び込んでいく行動力に刺激をもらいました。ぜひ。 caddiinc.com/n/n5b4a412245c3
Takuya Akiba retweeted
光栄にもSakana AIの秋葉さん(@iwiwi )と対談をさせていただきました。 「世界で勝つ」をテーマに議論する中で、中国語掲示板まで巡回し動向を追う一次情報への執念には圧倒され、その探求姿勢から多くの示唆をいただいた時間でした。貴重なお時間をありがとうございました！
caddiinc.com/n/n5b4a412245c3
Optuna Meetupで登壇させてもらいます！Optunaを作ったときに何をやりたかったのか、実際どうだったのか、今やっていることにどう繋がっているのか、あたりから何か話せればと思います。Optunaを使っている方も、最近知った方もぜひ！ optuna.connpass.com/event/40…
【イベント】 #Optuna のMeetupイベントの第3回を10/16(金)に開催します！ 先週公開されたOptuna 5.0の最新機能やRustunaの紹介をはじめ、Optunaの原作者である秋葉 拓哉氏 (@iwiwi) による講演を予定しております。皆さまのご参加をお待ちしております！ @OptunaAutoML optuna.connpass.com/event/40…
Kimi K3の「中身」を解説します！最近どんどん強力になるオープンモデルに、結局何が起きているのか。KDAやAttnRes等の技術要素だけでなく、そもそもLLMの性能向上は何によるのかや、K2からの流れで見える彼ら開発チームの考え方まで話せればと思います！
levtechlab.connpass.com/even…
／
📢情報解禁
9/29(火) 12:00~ オンライン開催🎧
＼
▼ゲスト
・Sakana AI 秋葉 拓哉さん (@iwiwi)
・モデレーター：岩瀬 義昌さん (@iwashi86)
『中国AIは、どのように賢くなったのか－Kimi K3の中身－』をテーマにお話しいただきます🙌🙌
お昼開催です。ぜひご参加ください…👀
levtechlab.connpass.com/even…
#AI_LTLAB
DeepSeek Sparse Attention, MiniMax Sparse Attention, LongCat Sparse Attentionに続いてついにQwen Sparse Attention (QSA)が登場して草
⚡Meet Qwen3.8-Flash, a multimodal MoE and an early preview of the Qwen4 architecture, now open-weight!
The production version Qwen3.8-Flash will be available soon via QwenCloud API at just $ 0.16/1M input tokens and $ 0.47/1M output tokens.
125B parameters + 51B N-gram embeddings, with just 6B activated per token. Unmatched cost-efficiency.
What's new: 🥳
- Next architecture: GDN + QSA hybrid attention, Gated Residual, N-gram Embedding & Muon optimizer, serving as a precursor to the architecture used in Qwen4.
- Dramatically lower training and inference costs: trained at just 1/9 the cost of Qwen3.7-Plus, while outperforming it across the board with especially strong gains in coding and office tasks.
- Strong performance: scoring 58.7 on DeepSWE 1.1, 62.5 on SWE-bench Pro, 73.9 on CoWorkBench, 84.5 on AndroidWorld, and 95.7 on MathVision (with CI).
- 262K native context, extensible to 1M with YaRN.
We’re also releasing the weights for Qwen3.8-Flash-Next, giving the community an early look at the new architecture we’re exploring for Qwen4.🚀
We can't wait to see what you build with Qwen3.8-Flash!👀👇
- Blog: qwen.ai/blog?id=qwen3.8-flas…
- Technical Report: github.com/QwenLM/Qwen3.8-Fl…
- Hugging Face: huggingface.co/Qwen/Qwen3.8-…
- ModelScope: modelscope.cn/models/Qwen/Qw…
