Japan representative of Radxa Computer (Shenzhen) Co., Ltd.

Yokohama
Joined May 2024
うむ。llama.cpp、v0.6.0(b11429)とv0.7.0(b11669)の間でGemma 4がくっそ遅くなってる…
18
Naoki@Radxa retweeted
本日 10/21(水) から 23(金) まで、Japan IT Week 情シス応援EXPO に ZUNDA は出展しています。 #JapanITweek #情シス応援 セミナーは 21(水)14時から「ID管理」、23(金)15時から「グループウェア引越」の2本、いずれも事前登録不要です。 幕張メッセ 3ホール A7-35 にてお待ちしております!
ZUNDA は 2026/10/21(水)-23(金) に幕張メッセで開催される Japan IT Week 2026 秋 #情シス応援 EXPO に出展します。ブースではグループウェア移行支援サービス および #KeeperSecurity 製品の紹介を行うほか、21(水)にID管理、23(金)にグループウェア移行のセミナーも行います。おいでませ! #ZUNDA
1
1
5
655
うーん、llamap.cpp新しくしてQwenと(DS-R1-)Llama-3.3-70BがVRAMに収まるようになったのはいいけど、なんかGemma 4が超おそいような…
38
サーバと給湯器合体させればいいんじゃないのと常々思っている
21
ぬこさまが怯えそう
17
minemazさんがビル買ったら住み込み管理人になろう
18
Naoki@Radxa retweeted
これはアレですね
1
1
3
202
Naoki@Radxa retweeted
飼ってて良かった GLM-5.3 Flash 320B (´ー`)
1
1
6
292
(さて我が家の野良サーバたちはどうするかな…)
20
うむ。IT業界も計画運休がひつよう。
27
さくらのVPS、緊急メンテナンスか。中の人がんばれ〜
1
532
Llama 3.3 70B IQ3_XXS (+ draft Llama 3.1 8B) -> IQ4_NL (KV cache q5_1)で7tok/sが6tok/sくらいになった
17
Llama-3.3-70B UD-IQ3_XXS -> IQ4_XSで+10GBか…載るかな…
21
llama最新版、VRAMの消費が減ったんじゃなくて、もしかして--tensor-split (layer split)のオーバーヘッドが減ったのか?
21
ほーそんなものが、と思って見てみたら…高っ
14
あ、Japan IT Week来場登録忘れた…
30
あれ、clineからprompt投げると20tok/s出るな…なんか見えてないパラメータ違うのかな
13
GSQ+RCOとは何か
21