@7shi

キモヲタ。勉強会とかやってます。LLM/自然言語/人工言語(@7shi_conlang)/低レイヤ/数学/物理（すべて素人）

 日本
note.com/7shi/n/n8a7ba1b56d25
Joined February 2008
  • Tweets53.9K
  • Following5.2K
  • Followers5.2K
3.2KMedia
Pinned Tweet
七誌@7shiOct 14
前回に引き続き、現代の LLM の原型である GPT-2 を題材に、「テキストを入力して次の単語を予測する」推論の仕組みを、Python の実装コードを追いながら解説します。お気軽にご参加ください。 10/28(水) 20:00～ GPT-2 推論エンジン入門 (2) ai-internals-study.connpass.…

GPT-2 推論エンジン入門 (2) (2026/10/28 20:00〜)

前回に引き続き、現代の LLM の原型である GPT-2 を題材に、「テキストを入力して次の単語を予測する」推論の仕組みを、Python の実装コードを追いながら解説します。 お気軽にご参加ください。 # テキスト 【簡約版】GPT-2 推論エンジン入門（「Embedding」セクションから） * 扱うのは推論のみで、学習は対象外です。 * 数式の厳密な導出よりも、コードと図で直感的に理解す...

ai-internals-study.connpass.com
3
18
796
Space Bunny Alphaの正式版がMiniMax M3.1 Flashとして公開されたので、英語と日本語の読解力をテストしました。結果はほぼ誤差でした。 github.com/7shi/bou-thakuran… ※ 評価者をQwen 3.6 35B-A3BからJev 1.14.0に変更したため、引用とは点数が変わっています。
七誌@7shiSep 25
ステルスモデルSpace Bunny Alphaの英語と日本語の読解力をテストしました。MiniMaxだという噂がありますが、日本語が下がっていますし、どうなんでしょうね？ github.com/7shi/bou-thakuran… ※ Qwen 3.6 35Bで採点を行っていますが、今後、Jevに置き換える予定です。
1
1
1
256
なお、回答の日本語は英語などが混ざったいわゆるルー語になっています。日本語能力は期待しない方が良いです。 github.com/7shi/bou-thakuran…

bou-thakuranir_haat/qa-eval/results/ceiling-openrouter_minimax_minimax-m3.1-flash_free-ja.jsonl at...

Tagore's Bengali novel "Bou-Thakuranir Haat". Contribute to 7shi/bou-thakuranir_haat development by creating an account on GitHub.

github.com
153
herdr上でOpus 5.5をオーケストレーターにして、Gemini 3.8 FlashとGPT-6 Lunaにタスクを割り振る作業が軌道に乗りつつあります。 多少の判断が必要な作業はagy上のGeminiに、機械的な作業はスクリプト化してLunaに任せています。 （作業は19世紀の約1300ページのラテン語版『神曲』注釈書のOCR校正）
1
2
341
スクリプト化すると挙動が固定化されて融通が利かなくなりますが、ハーネス上で実行するよりもトークン消費が抑えられるので、無料枠に収めやすくなります。
154
クラッシュなどで検証が滞っていましたが、まとめます。 clef-flashは判断がやや甘く、clefとはかなり違う結果を返します。Jevはclefとclef-flashの中間くらいで、ややclef寄りでした。 clef-flashとnimbleは同じqwen3.5-9Bベースですが、挙動はあまり似ておらず、nimbleの方がJevに近い印象です。
七誌@7shiOct 18
Ollamaでclef-flashを回しています。30分くらい経過しましたが安定しています。（当面は色々と試しながら様子を見る予定）
1
1
253
Jevはクレジット$5が毎月付与されるようなので、当面はローカル化を急がずにJevを使い続けようかと思います。 xitter.cf/7shi/status/2111706006…
七誌@7shiOct 18
Replying to @7shi
初回特典ではなく毎月で合っていたようです。素晴らしい！
2
142
Space Bunny Alphaの正体がなかなか明かされないと思っていたのですが、噂通りMiniMax系だったのですね！
OpenRouter
@OpenRouter16h
Stealth model reveal 🐰 Space Bunny was OpenRouter’s #1 model for 10 straight days, processing 56.7T tokens! The most of any stealth model we’ve run. Space Bunny hopped off OpenRouter on Oct 5. It's back today as @MiniMax_AI's M3.1 Flash, and it's free for the next 72 hours.
192
七誌 retweeted
電柱
@denchu_unagiOct 18
Strata開発者のNiko氏、バッチバチのハイエンドな構成ではなく64GB + 12GBっていうなんとか頑張れば手が届くミドルクラスを基準に開発してくれてるの好感度高すぎるな 時代の流れをちゃんと見据えてて、 やっぱりこの人Githubのアイコン通りドラゴンボール超のヒットの時とばし使ってるとしか思えない
Niko Veit
@coldnikoOct 18
Replying to @mapte_fireball
I always base things on 64GB + 12GB Vram
3
44
3
401
27,946
最近StrataでR9700とかのAMDグラボの最適化が進みまくってるのってNiko氏がR9700を4台買い込んだからでしょ
Niko Veit
@coldnikoOct 18
Last tests and builds are in progress. A small preview of what's coming in the new version. The release is scheduled for this late evening (European time). I'm open to giving answers to any of your questions below. And sorry for being late!
6
1
35
4,878
ブルースクリーンが発生して、Gemini 4 Argonでダンプを分析したところ、ビット反転が検出されました！ CPU交換前はメモリコントローラやバス自体がエラーを起こしていて、CPU交換後はメモリ側の問題が露呈したということみたいです。 なお、敢えて負荷を掛けて様子を見ていたので、狙い通りです！
七誌@7shi16h
これを書いた後、久々にブルースクリーンが来ましたw Argonでダンプを分析中です。まだ結果が出ていないのですが、分析中のログを見る限り、明らかにコピー中のファイルに関連するパスが見えていますね…
1
4
404
これを書いた後、久々にブルースクリーンが来ましたw Argonでダンプを分析中です。まだ結果が出ていないのですが、分析中のログを見る限り、明らかにコピー中のファイルに関連するパスが見えていますね…
七誌@7shi18h
Replying to @7shi
障害発生後、ログも止まっていたようです。WSLは動いていたようで、午前9時に予約していた作業は完了していました。11:30頃に諦めて電源長押しで切りました。 多分、今までのようなハードウェア障害ではないのでしょう。
1
2
493
AntigravityのIDEではない方は使い道がよく分からなかったのですが、会話中に他のスレッドを参照できるのが地味に便利ですね。 軽い質問にはCopilotアプリを使っていましたが、どのモデルを使っているのか表示されなくなったので、最近はAntigravityの比重が増えています。
七誌@7shi17h
Replying to @7shi
色々と知らないショートカットを説明してくれました。意図的にブルースクリーンを起こす設定なんてあるのですね。 AntigravityでClaudeの枠は少な過ぎて使い道がないと思っていましたが、こういうスポットの相談には便利です。
271
この後、GPU計算をやめて3時間くらい別の作業をしながらYouTubeを見たりしていたら、キー操作できなくなりました。pingは反応ありますが、ファイル共有はタイムアウトするので、サービス周りが落ちたっぽいです。タスクバーも固まって操作不能に陥ったので、諦めて電源5秒押しで強制切断しました。
七誌@7shiOct 18
Ollamaでclef-flashを回しています。30分くらい経過しましたが安定しています。（当面は色々と試しながら様子を見る予定）
1
1
529
more replies
結局、外付けドライブが停止して、キャッシュがあふれてディスク全般に書き込みができなくなったのではないかということでした。このドライブはバックアップ用を想定しているので、常時接続はせず、ディスクがあふれそうになった時だけ使うことにします。
1
1
161
色々と知らないショートカットを説明してくれました。意図的にブルースクリーンを起こす設定なんてあるのですね。 AntigravityでClaudeの枠は少な過ぎて使い道がないと思っていましたが、こういうスポットの相談には便利です。
1
2
370
Ollamaでclef-flashを回しています。30分くらい経過しましたが安定しています。（当面は色々と試しながら様子を見る予定）
七誌@7shiOct 16
Replying to @7shi
以前は落ちていたFF XVベンチが完走しました。 標準品質 1920×1080 フルスクリーン 9915 とても快適 ウィンドウ 9797 とても快適 GPUより先にCPUの限界が来ているっぽいです。GPU高負荷時に落ちるのかと思っていましたが、CPU側の問題で落ちていた可能性が高そうです。 xitter.cf/7shi/status/1923296474…
1
1
4
1,173
落ちずに処理は完了しました。その一部（750リクエスト）の処理速度を比較します。 7600 XT: 9分20秒 EVO-X2: 7分11秒 GPUの能力的には大差ないはずですが、7600 XTは共有GPUメモリに少しはみ出していたのが足を引っ張っているようです。
1
214
この4年ぐらいずっとこの繰り返し
5
17
2
141
2,520
Load more