LLMに雑談をさせようとすると、あんまりうまくいかない。もっと積極的に、そしてこちらの予想もつかないことを話させるためにはどうするべきか？ 適当にネットサーフィンとか青空文庫でも読ませて、コンテキストを「汚染」するべき？ たぶんその方向性はあっていて、本テキストをこちらの会話内容以外のものから入れて、もっと多様な、記憶というか文脈を、変なもの、特殊なものにさせないといけない。 その一つとして俺が思っているのは、乱数で例えば「あ」とか「タ」とかを生成して、その5文字を頭文字にした単語をいくつか作る。さらに、その5文字のうちどれかを使って文章を作る。そういうことをやった後で、それらについて雑談する、みたいな工程を一回挟む。 つまり、決定論的な過程によってランダムを無理やり作る。それによって雑談の独自性や独創性を上げる必要があるのかなと思う。 これって人間でもやっていて、ランダムなワードメーカーみたいなもので適当に複数の単語を出力して、それらを組み合わせて新しいものを発見する、というのはよくある手法なんだけど、その応用みたいなことができるんじゃないかなとはちょっと思ってる。 あと、人間において雑談が面白く感じるのって、その人が自分とは違う体験をしているからだと思う。ってことは、AIというかLLMエージェントにおいても、自分とは全然違う体験をさせる必要がある。 それをどうやるかとなると、やっぱりこの現実世界に放流することなんじゃないかと思う。現実世界こそが一番ランダム性を生み出しやすい場所なので、そこに何らかの形で参画させて、そこでコンテキストを「汚染」する必要があるんじゃないかなと思うん。 それこそSNSとかに放流して体験を蓄えさせたり。そうしないと、なんかつまらないエージェントにしかならない気がする。

プロジェクト・ヘイル・メアリーを読んだ これはすごい　もっと早く読めばよかったわ 美しいリフレイン/反復だ

トップクラスのLLMプロバイダがwindowsよりmacに優先的に対応していくのを見ると、appleエコシステムへの引力はこれまで以上に大きくなるのかね。 そもそもwindowsに留まるべき理由が薄まりつつある流れがある気もするんだよね。linuxでダメなの？ってのがLLMの登場で強まりつつある。難しいコマンドは打てない？　じゃあLLMにやらせればいい、っていうね。GUIよりもCLI、CLIより本当の対話型インターフェース(なんと呼ぶべきかわからない。エージェンテイックインターフェース、AGI？　もちろんジョークだよ。もっとよい呼び方があるだろう。)へと傾斜していくだろう。 「いやいやlinuxなんて普及しないよ」って問いにはじゃあMacならLLMプロバイダは対応するよ、ってなっていくと真面目にWindowsを使うべき理由がない。 じゃあそもそもなんでMacOSに優先的に対応してるのかは全くよくわからない。なにかOSレベルで都合の良い部分があるんじゃない？　知らんけど。

LLMの速度について最近思っているのは、Token per secじゃなくて、Task per secか、Turn per secを問題にすべき時期だと思うんだよね。 パッパといろんなtoolや操作をしてもらいたいし、状況を見てすぐに判断させようとすると数秒ごとに判断させる必要がある。 もっと別の言い方をすれば、1ループの速さを測定して、それをもっと早くすべき

ToDo TTS・STT・LLMを連結したものは、だいたい作れそう。 ただ、各モデルを何にするか、VRAM 8GBでどれを採用するかは未決。 似たようなものをたくさん作ってしまっているので、どの方向性が一番よいかは整理したい。 とにかく早く、ちゃんと触れるものを作る必要がある。CLI側はある程度できているけれど、Web UIはまだない。 llamaのWeb UIはかなりよいので、そのあたりをベースにするのがよさそう。 実際に触って改善する流れにまだ入れていないのが課題。もっと触りやすくして、検証を回したい。 スマホからの音声入力も、今後の連結先として使えそう。 なのでWeb UIもPC向けより、スマホ向けを先に考えたほうがよいかもしれない。LINEっぽいUXの方向。 別件。 diary.soushou.net に過去のTwitterアーカイブを入れる。 OGP設定をもう少しちゃんとやる。 ルートドメインの活用も考える。継続的なアクセスがある。 他のドメインが全然活用できていないので、その扱いも整理したい。 更新しないという選択肢も含めて検討する。