Hopfield Networks / Associative Memory / Kernel methods / Dynamical Systems / Information Geometry
Japan
Joined September 2010
- Tweets60.1K
- Following1.9K
- Followers5.9K
- Likes236K
「大学院生が研究ネタを見つける４つの方法（具体例付き）」のメソッドは依然として有効
現IBMの鈴木さん、「…博士論文提出時のジャーナル・国際会議・国内会議の論文数をすべて合計すると、主著が２７本、共著は５９本…」とあるので、すごいんだよなぁ。d.hatena.ne.jp/masayukipo/20…
IBIS 2025のチュートリアルスライドは勉強になりましたので、本にも興味あります speakerdeck.com/akifumi_wach…
mat retweeted
『基盤モデルのための強化学習』の著者見本が届きました！
LLM などの基盤モデルにおいて、強化学習がどのように用いられているかを体系的にまとめた書籍です。
強化学習は、昨今の AI の進歩の主要因の一つであり、かつ「報酬ハッキング」など安全性に関する議論とも関連があります。いま強化学習を勉強するのはタイミング的にかなり良いのではないかと思います。
この本が、国内の AI・強化学習の研究・開発レベルの底上げにつながると嬉しいです！
Amazon：amzn.asia/d/0bjnVH4N
mat retweeted
この、セドリック・ヴィラニさんの数学とAIの動画は今の数学者の現状をかなり正確に伝えています。
youtu.be/Pw6T73an83g?si=ERou…
mat retweeted
＜書籍紹介＞ 【復刊】線形代数学（岩堀長慶 編）【数学】 shokabo.co.jp/mybooks/ISBN97…
何と、この２冊が復刊されるとは！
「線形代数学」は学部１年のときの教科書で、試験対策委員の担当だった自分は講義には碌に出なかったのに、問題の解答だけを作ってた、という思い出深い本です。
mat retweeted
What is the goal of unsupervised machine learning?
Aapo Hyvärinen
arxiv.org/abs/2610.11697 [𝚌𝚜.𝙻𝙶]
ALT Unsupervised learning is one of the main branches of machine learning. Here I argue that unlike the other branches of machine learning (supervised and reinforcement learning), unsupervised learning is a rather heterogenous field that can serve several different goals. It seems futile to try to define one single goal for unsupervised learning. I identify four different goals for unsupervised learning: 1) Estimating the distribution, 2) Generating new data points, 3) Extracting features for downstream tasks, and 4) Understanding the data.
mat retweeted
link.springer.com/book/10.10…
電子版を手に入れた。BrezisとEvansを足して二で割り、超関数を足した感じ。新たなスタンダードになりそう。
この動画シリーズがなかったら3章のベクトルバンドルのところは理解できなかった
服部多様体はこの動画のシリーズのおかげで理解が進んでいる youtube.com/playlist?list=PL…
mat retweeted
新たな生成モデル Empirical Variational Autoencoder (EVA)を提案しました
VAEの事前分布制約を標準正規分布ではなく自己予測分布に置き換える事で、生成モデルとして使われなくなっていたVAEで高品質サンプリングが可能になります
自己予測分布はVAEデコーダーに線形層を1つ足すだけで実現できます
Introducing a new generative model, Empirical Variational Autoencoder (EVA):
We can revive VAEs for sequential generation only with an extra single linear layer that predicts the next prior without VQVAEs or diffusion models.
Project page:
mapooon.github.io/EVAPage/
