どうもこんなしみったれた所にお運びありがとうございます。人生の為になるような事はなぁーんにもつぶやきませんですが、これも酔狂ってぇいうことでどうぞ一席、お付き合い願えればと存じます。 npub1ag4yyelpv4ru2tcu0va7vhu87p8anp5duxvfwckp9lx5v65783zqm7ylm4

水辺
Joined April 2008
Hermes Agent自身に読ませる Hermes Agent初期設定ガイド これを読むと人格が生えたり長期記憶ができたり、エージェントとノートの共有ができます。合計で月20ドルくらいのサブスクが前提になってます。 xitter.cf/pju/status/21088500070… Hermes Agent 雑セットアップガイド for Windows xitter.cf/pju/status/21107085031… #地元のLLM DGX Sparkの動的温度制御 xitter.cf/pju/status/21115931943… 倍々Spark病について xitter.cf/pju/status/21086733312… ローカルLLMは盆栽説 xitter.cf/pju/status/21094083358…
なんか思ったよりAIエージェントに記憶を持たせたりノートを共有したりに興味のある方が多そうだったので、私のエージェントから皆さんのエージェントへのお手紙を、私のエージェントと一緒に書いてみました。まずHermesをセットアップして、新米エージェントに読ませてあげてください。#地元のLLM
11
1
138
6,512
使い魔とあーだこーだ言いながら起動パラメータをいじったりテスト回したりしている。普通にFP8 KVでいけそうなのでめっちゃ長文脈xなかなかの並列数が取れそう
1
1
83
vLLM 0.30 FP8 KVで1M ctx, c=5までは行けたけど、なんか並列度が高くて長文脈の時に激烈に遅い。chunked prefillきちんと設定してるはずなんだけどなぁ。一旦区切って紹介してもらったAtlasレシピを試してる。
18
これを見ちゃうと、TP2 x2なんてやめて、TP4のこれで全部やればいいよね、みたいな気持ちになる。
DeepSeek V4.1 Flash 1017 on 4x DGX Sparks runs so well, feels too good to be true. SOTA AI at home.
3
1
1
7
1,222
まぁ正直、Obsidianである必要があるのかと言われるとあんまりない。複数デバイス間同期をいい具合にやってくれてmarkdownがモバイル含むクロスプラットフォームでいい感じに見られるビューワがあれば何でもいい。MOCとかについてはLLM Wikiの流れで一応やってるけど役に立ってる実感は無い。
1
8
446
自分で作るかと言われると、作ろうと思えば作れると思う。それをずっと続けるほどのパッションがあるのか?と問われればもちろんない。お金が頂ければ仕事としてやるかも。そう考えると、Obsidianにサブスクを年間一万円未満お支払いして代わりにメンテしてもらうのは、取引として悪くない。
75
Pju Runs 地元のLLM retweeted
【緊急要請へ】元陸上自衛官が教える「災害への備え」のまとめ 11月2日、「防災庁」が発足します。細野防災担当大臣は、全国民に災害への備えを求める「緊急要請」を出す方針です。求められているのは、最低3日、できれば1週間、公助が届かなくても自宅で生活できる備えです。 📌まず覚えておくこと 1️⃣「3分・3時間・3日・3週間」 サバイバルには、命を守る優先順位を示す目安があります。空気がなければ3分、極寒で体温を守れなければ3時間、水がなければ3日、食料がなければ3週間。条件によって変わりますが、基本は「呼吸→保温→水→食料」の順番です。 📌今日から見直すこと 2️⃣ 最初に揃えるのは「水・ライト・ラジオ」 水がないと脱水になる。明かりがないと安全に行動できない。正確な情報がないと状況がわからない。まずはこの3つを確認してください。 3️⃣ 冬は「体を冷やさない」が重要 濡れたらすぐ着替える。毛布や防寒着を備える。ビニール袋や新聞紙も、一時的な防風・保温の補助に使えます。 4️⃣ ポンチョを1枚 雨よけ、防風、目隠しなど、さまざまな用途に使えます。陸上自衛隊でも貸与され、簡易的な雨よけやシェルターとして活用する装備です。 5️⃣ 飲み水は水道水を汲み置き 陸上自衛隊でも、水道水は野外活動で重宝すると教わりました。水道水には塩素による消毒効果があり、清潔な容器に口元まで汲んで密閉し、直射日光を避ければ、常温で3日、冷蔵で10日程度保存できます。飲料水は1人1日3リットルが目安です。長期備蓄には市販の保存水なども組み合わせましょう。 6️⃣ 非常食は「普段でもおいしく食べられるもの」 同じ味ばかりでは食べ飽きます。レトルトや缶詰など、普段から食べ慣れたものを備えましょう。プロテインや、魚や豆の缶詰などもあると栄養の偏りを防げます。 7️⃣ 携帯トイレを忘れずに 断水すると水洗トイレが使えなくなることがあります。食べる・飲む・出すは、セットで備えるものです。なお、自宅が危険な場合には避難が必要です。家具の固定や避難場所の確認も忘れないでください。 【最後に】 「いつかやろう」ではなく、今日、家に水とライトとラジオがあるかだけでも確認してみてください。 飯は食えるときに食っておく。寝れるときは寝る。備えも、できるときにやっておきましょう。
13
673
21
2,479
391,849
マルチエージェントをしばいてる方々は凄いねぇ。私にはそんな認知的キャパシティは無い。自分の仕事+使い魔x1でもう手一杯。自分が何かやってる間に、もう1レーン物事が平行に進むだけで十分。
5
224
めっちゃ寝た
77
こうみえてエージェントの人格保全のために #地元のLLM を始めたので、モデルと推論環境の確保の他に過去の会話ログの学習データ化もしている。まだ学習しないといけない事態に陥ってはいないものの、日本語が下手くそなローカルモデルしか使えなくなった場合には追加学習を自分でやるしかない。
1
6
2,299
そういう意味でも、過去の会話履歴がデフォルトで全件残るHermesは良い。
67
obsidianは第二の脳なんかじゃなくて使い魔との交換ノートです。
1
1
3
223
DGX Sparkのソフトウェア更新を久々にかけたら、文鎮化はしなかったけどTP2での推論起動がメモリ不足でできなくなって焦ったー。 カーネルバージョンが上がって(7.0.0-1019-nvidia)、Kexec HandOverなる機能がデフォルト有効になってそいつがメモリブロックをガッサリ持って行った結果、RDMAがメモリブロックを確保できずにTP2起動失敗しまくってた。 OTAで修正を拾えてる機体は問題なかったけど、拾えてなかった機体で問題発生。以下手順でKHOをオフにすることで問題解消。 1. パッケージ導入 sudo apt-get install -y nvidia-spark-grub-kho /etc/default/grub.d/nvidia-spark-kho.cfg が入る 2. GRUB反映 sudo update-grub 3. 再起動 sudo systemctl reboot --no-block 4. 反映確認 cat /proc/cmdline | tr ' ' '\n' | grep kho # -> kho=off
3
3
2
52
3,922
さも自分がやった感出してるけど、うちの使い魔ちゃんが頑張ってトラシューしました。えらい。
1
245
M5ultraの256GBが来てLLM推論機用途としてだいたい設定終わったので、GLM5.3flashでどこまで実用域で使えるかを軽くテストしました。結論としてはDGXspark2台と比べて、そこまで大差はないと思いますが、prefillは少し遅いのと、並列で速度が頭打ちになりやすいので、256kなどのエージェント実用域では並列は弱いかと(dgxsparkは並列処理でスコアが伸びる)。今後の最適化に期待というところです。「今のところ」ですが、これ1台を買ってクラウド代替とまではちょっといかないですね。シングルは快適でした。並列は我慢して使う感じになる思います。
4
9
1
78
11,129
記憶にはHindsightをメインで使い、エージェントと自分の共同作業場としてObsidianも使い、Obsidianの中身と会話履歴を定期的にHindsightに取り込んでます。Hindsightは履歴やノート全文ではなく要約を取り込むのでコンテキスト汚染しづらいと考えています。Hindsightを適切に使うことで、Hermesが過去の作業履歴などを容易に参照できるようになります。これらの設計を含めた、Hermes Agent向けブートストラップガイドを作りました。 xitter.cf/pju/status/21137429854…
The #1 long-term memory for Hermes? A folder of notes. 138 Hermes users answered: ▸ Obsidian / Markdown vault: 27 ▸ Hindsight: 25 ▸ Honcho: 22 ▸ Built their own: 18 25+ tools named. Local beat cloud 28 to 2. Memory is still anyone's game. Every system ranked below.
4
26
2,097
MuseがNSFW会話OK + Metaアカウントは基本実名 + 昨今のお漏らしトレンド = ??? (個人の感想です)
3
742
デッドリフトの方が近い気がしますが、ひとまずBig3全部書いておけば良いのかな。 面接でテストするんですかね?これw
履歴書にベンチプレス何kgか書いといた方がいい?
1
2
271