Gemma 4-31Bも一応 1 tok/s くらいだけど動きはした

Gemma 4-26B-A4Bを動かしてみてる。 8GB VRAMしかないのでまあ8〜10 tok/s くらいしか出ないのだけど、正直意外とそこまでストレスがない。 リアルタイムなやり取りが必要なら流石に30〜40 tok/s くらい欲しくなるけど、別にテキストでのやり取りならこれくらいで十分なんだな

Gemma 4 31B ITをAI Studioで試してみているんだけど思ったより感触がいい このくらいの性能のやつがこのサイズで公開されるのすごすぎるな

あと気になっているのは、WhisperとGemma 4を動かしているだけなんだけど、VRAMが6.2とかになっていて。これ、俺の予測が、元々の予定だともっと小さいはずなんだよな。常駐している何らか他にもあってそれが圧迫しているのかな。メモリも意味わからないくらい使われているし、そうなのかも。

ほぇーと思って見てたけど、やっぱ24秒あたりの浮かなくなるところ気になるよね （該当部分のクリップ） https://youtube.com/clip/UgkxjUfnfJmZA4BQja5VWXa5vl8qCGOodMJM 「超電導体の磁気浮上を室温かつ常圧で確認した」とされるムービー【LK-99】 https://www.youtube.com/watch?v=aw5sw5TDihU