Hopfield Networks / Associative Memory / Kernel methods / Dynamical Systems / Information Geometry
Japan
Joined September 2010
- Tweets60.1K
- Following1.9K
- Followers5.9K
- Likes236K
mat retweeted
『基盤モデルのための強化学習』の著者見本が届きました！
LLM などの基盤モデルにおいて、強化学習がどのように用いられているかを体系的にまとめた書籍です。
強化学習は、昨今の AI の進歩の主要因の一つであり、かつ「報酬ハッキング」など安全性に関する議論とも関連があります。いま強化学習を勉強するのはタイミング的にかなり良いのではないかと思います。
この本が、国内の AI・強化学習の研究・開発レベルの底上げにつながると嬉しいです！
Amazon：amzn.asia/d/0bjnVH4N
mat retweeted
この、セドリック・ヴィラニさんの数学とAIの動画は今の数学者の現状をかなり正確に伝えています。
youtu.be/Pw6T73an83g?si=ERou…
mat retweeted
＜書籍紹介＞ 【復刊】線形代数学（岩堀長慶 編）【数学】 shokabo.co.jp/mybooks/ISBN97…
何と、この２冊が復刊されるとは！
「線形代数学」は学部１年のときの教科書で、試験対策委員の担当だった自分は講義には碌に出なかったのに、問題の解答だけを作ってた、という思い出深い本です。
mat retweeted
What is the goal of unsupervised machine learning?
Aapo Hyvärinen
arxiv.org/abs/2610.11697 [𝚌𝚜.𝙻𝙶]
ALT Unsupervised learning is one of the main branches of machine learning. Here I argue that unlike the other branches of machine learning (supervised and reinforcement learning), unsupervised learning is a rather heterogenous field that can serve several different goals. It seems futile to try to define one single goal for unsupervised learning. I identify four different goals for unsupervised learning: 1) Estimating the distribution, 2) Generating new data points, 3) Extracting features for downstream tasks, and 4) Understanding the data.
mat retweeted
link.springer.com/book/10.10…
電子版を手に入れた。BrezisとEvansを足して二で割り、超関数を足した感じ。新たなスタンダードになりそう。
mat retweeted
新たな生成モデル Empirical Variational Autoencoder (EVA)を提案しました
VAEの事前分布制約を標準正規分布ではなく自己予測分布に置き換える事で、生成モデルとして使われなくなっていたVAEで高品質サンプリングが可能になります
自己予測分布はVAEデコーダーに線形層を1つ足すだけで実現できます
Introducing a new generative model, Empirical Variational Autoencoder (EVA):
We can revive VAEs for sequential generation only with an extra single linear layer that predicts the next prior without VQVAEs or diffusion models.
Project page:
mapooon.github.io/EVAPage/
mat retweeted
博士課程の生活を忘れないうちにまとめました
note.com/hirotakahiraki/n/nd…
mat retweeted
スライド公開しました @sho_yokoi
「表象」を再定義するー潜在表現解析の落とし穴 speakerdeck.com/ykamit/hyous…
🚀 #NLPコロキウム の開催案内
講演者：神谷之康さん @ykamit (@KyotoU_News)
日時：9/30 (水) 12:00– JST
どの潜在表現とどの潜在表現を同じとみなすかという観点で、AIの内部表現の解析手法と脳活動データの解析手法をまとめて再検討しようというお話です🧠nlp-colloquium-jp.github.io/…
mat retweeted
“のんびりした 個人研究万歳。” xitter.cf/sosuke110/status/94223…
mat retweeted
New book in town!
Modern Statistical Methods and Theory:
An Introduction to Nonparametric and High-Dimensional Statistics
check the authors home page for corresponding notes.
cambridge.org/core/books/mod…
mat retweeted
Optimization Concepts is now available. This new textbook provides a foundation in optimization theory and methods, with applications across mathematics, engineering, operations research, data science, and beyond.
🔗 Learn more: link.springer.com/book/10.10…
mat retweeted
Our paper “Deep Positive-Unlabeled Anomaly Detection for Contaminated Unlabeled Data” has been accepted for publication in Neurocomputing 🎉 Many thanks to my co-authors!
doi.org/10.1016/j.neucom.202…
mat retweeted
三嶋さん（東大物理学科3年生‼️）と三村先生（広島市立大）との共同研究を公開しました。リミットサイクルを安定解として持つModern Hopfield modelの同期ダイナミクスを解析し、Amari-Maginu理論が有効であることを示しました。
arxiv.org/abs/2609.13987
mat retweeted
新しい論文を公開しました！
「ニューラルネットワークは、どのような情報を、どのような速度で獲得するのか？」
本研究では、学習ダイナミクスを確率過程として記述し、Fisher情報量から情報獲得の速度限界を導きました。
ちなみに初主著になります！
arxiv.org/abs/2609.08219
mat retweeted
二ヶ月 Claude Fable を研究に使ってみて思ったことを徒然に書いてみました: member.ipmu.jp/yuji.tachikaw…
mat retweeted
来週 9/9 の OR 学会シンポジウム で「逆最適化と機械学習」というタイトルで講演します！orsj.org/2026f/symposium/
スライドはこちら👉 speakerdeck.com/ssakaue/gyak…