gpt-oss-20b、とりあえずローカルで動かせたけど悪くない気がする
会話
gpt-oss-20b RTX 4060, RAM 32GB, i7-4790k 6.48 tok/sec くらい 「日本列島改良計画」みたいなちょっと変な部分はあるけど(改造だろ)、全体的に結構いい感じ というかこの環境で動かせてそこそこの速さなのはすごいな
うーん?冷戦期の流れ聞いたら途端にハルシネーションが増えたな 明らかにおかしい場所がいくつかある gemini-2.5-proに適当にファクトチェックさせてみた
うーん、結局ローカルで動かすのは検閲されないことこそが核心で、性能とかは二の次三の次と心得る必要があるか と思ったけど、別に危険な内容とかは拒否られるな普通に うーん
ちょっとした翻訳が高品質かつローカルでできるようになったと考えると結構すごいのか?
愛おしすぎるな
メモ: おま環の可能性高め lmstudio で gpt-oss-20b をダウンロードする時、 openai の提供の方でダウンロードすると my model に反映されない これは多分 91.69KB の何らかのファイルがダウンロードできていないから この状態でも lmstudio-community の提供のほうから"Use in New Chat"を押せば可能
91.69KBのファイルをダウンロードしようとするとこういうエラーが出る場合がある Failed to start download Job with identifier resolvedArtifactDownload:openai:gpt-oss-20b does not exist で、先述の通りこの状態でも使用可能なんだけど、代わりに Reasoning Effort の設定が弄れない
おそらくこの方と同じ状態かな https://x.com/Gabri80562/status/1953215189853036808
Geminiに相談したら「直接ダウンロードすれば?」って言われたのでそらそうだ、ってことで、metadataだけ直接ダウンロードしたら My modelにも表示されたし Reasoning Effort も出た lms clone openai/gpt-oss-20b ファイルを置くのは、" .lmstudio/hub/models/openai/ "の下 https://lmstudio.ai/models/openai/gpt-oss-20b