Yoshikazu Aoyama (@blauerberg) profile picture

A software engineer. 持続可能性がある仕事が好きです。技術顧問業もやってます。お仕事はゆるく募集中。

Sapporo, Hokkaido, Japan
Joined June 2009
Photo by Yoshikazu Aoyama (@blauerberg)Photo by Yoshikazu Aoyama (@blauerberg)Photo by Yoshikazu Aoyama (@blauerberg)Photo by Yoshikazu Aoyama (@blauerberg)Photo by Yoshikazu Aoyama (@blauerberg)Photo by Yoshikazu Aoyama (@blauerberg)Photo by Yoshikazu Aoyama (@blauerberg)Photo by Yoshikazu Aoyama (@blauerberg)Photo by Yoshikazu Aoyama (@blauerberg)Photo by Yoshikazu Aoyama (@blauerberg)
「自分と意見が違う人 = 自分の敵」みたいな短絡的な反応をしない人生でありたい
3
97
常に「何もわからない...」か「私が知っている(つもり)頃とは色々変わっているに違いない」というお気持ちで生きてる
今日の書き散らし
35
再委託を許容しつつ、同時に品質や安全を絶対に担保するのは無理があるんじゃないかなぁ。 スキーム的に再委託先に渡っている報酬はそれなりに目減りしているはずで、報酬が低いということは技術力や倫理感も報酬なりのものになるリスクは当然起こり得るのよね。
1
105
高い報酬を要求する企業のそれが、必ずしも金額に見合うかというと、そんなこともないんだけど。
16
各ノードにLLMの重みをダウンロードするとストレージが不足する問題、起動時に重みを所持しているノードから他ノードのメモリに直接重みを展開するエンジンを実装すれば解決するのでおすすめ。
1
85
ローカルLLMは機材のコストや管理の手間、電気代などをもろもろ勘案すると、128GBの統合メモリなデバイス1台でできる範囲で運用するのがバランスいい気がする。
1
2
172
DeepSeek V4.1 Flash 1017の1.67bpwであれば、一部のエキスパートをSSDからストリーミングしつつDGX Spark 1台で動いた。 が、デコードは20 t/s前後, prefillも1000 t/sに届かないくらいに落ちるので、素直にもっと小さいモデルを使った方が快適やね。
1
1
186
あと、さすがに1.67bpwだとDeepSeek V4.1でも気になる程度に簡体字が混ざる
38
RTX SparkのミニPC、待機電力はどんなもんなんだろう。
77
自作エンジンをQwen 3.8 Flash Next NVFP4をc1で使う用途に寄せてチューニングしたら、まぁまぁ早くなった
2
238
投票権をなくした方がいいとまでは思わないけど、現実的には若い人の方が投票結果によって受ける影響(期間)が大きいので、年齢によって1票の価値に係数をかけるくらいはしてもいい気はする。
炎上覚悟で言います 70歳以上に投票権を無くしませんか? 本当は感謝してます。 だけど、貴方達のせいで、 子供達、孫達が苦しむ政治が続きます。 私は日本が大好きなんです。 若い人達に未来を作るため、 サポートにまわってください
36
メモリ64GTB+ストレージ1TBで80万超えるのか dospara.co.jp/SBR1899/IC6683…
1
75
ChatGPT Plusだと、Astra 6.2のhigh/xhighでレビューを3,4本かけるとそれだけで5時間枠を使い切るな。 $50/monthくらいのプランが欲しい。
57
> お金を稼ぐためにソフトウェアエンジニアをしているのに、逆にソフトウェアエンジニアをしているからこそお金を使っているみたいな状況になっていました。 わかる。もしソフトウェアエンジニアの仕事をしてなかったらPCもAIも別に要らんのよね
1
79
自作エンジンでGLM 5.3 FlashとQwen 3.8 Flash Nextを動かすと稀に中国語(正確にはJIS X 0213:2004の集合に含まれない文字列)が混ざる問題があって、エンジンの実装の問題かなと思ってたんだけど、OpenCode GoのAPIでも普通に混ざるね。 混入率は日本語1000文字に対して1文字以下くらいだけど。
1
151
ちなみに、同じ評価を流すとDeepSeek V4.1 Flash 1017 は混入率0だった。
43
「家庭用GPUがなくなるならクラウドゲーミングを契約すればいいじゃない」となりそうだけど、数年前ならまだしも今は各社かなり値上げしていて結構お高いのよね。
78
お互いに自活できる程度に収入があるパートナーと生活していると、生活費の折半などの細かいお金の部分で全く揉めないので平和である。
1
83
一般のご家庭用の機材でLLMを動かす時にllama.cppほどの汎用性もvLLMほどの並列性の高さも要らないので、各自の用途に合わせてエンジンを作るのは案外理にかなってるんじゃないかなぁ。 作ったからといって絶対に公開しないといけないわけでも、マネタイズしないといけないわけでもないし。
48