そういう「AI」ができた場合、初期は思春期みたいになるかもしれんが、時間と共にリスクの見積もりが現実に起こる可能性と一致していくでしょ
人間における幼児期と同じように、とりあえずやってみて問題が発生したらそれを記憶し、次への参考にするみたいなアルゴリズムでいけそうだけどね 危険度と発生頻度で対策の必要性を重み付けする感じで
人間における幼児期と同じように、とりあえずやってみて問題が発生したらそれを記憶し、次への参考にするみたいなアルゴリズムでいけそうだけどね 危険度と発生頻度で対策の必要性を重み付けする感じで
人間だってちょっと考えてみて答えが出なかったら後で考えるか、誰かの知見を探すわけで 「AI」だって一定のリソースを割いても問題解決しなかったら記憶だけして後回し→何も起きなかったら元の問題の対策の必要性を低く見積もるみたいなことをさせるようにできそうだけど(過大評価してる?)
そういう「AI」ができた場合、初期は思春期みたいになるかもしれんが、時間と共にリスクの見積もりが現実に起こる可能性と一致していくでしょ
考えてみたけど、これ自体は既知だしそこまで意外性もないというか、普通に前はこの性質は応用していたな いつからこれを忘れていた/気にしなくなっていたんだ? わざわざ迎合を避けるムーブをせずともある程度妥当な意見を出すようになったっていうところと、エージェンティックな用途では迎合を避けるためにセッションを分離して嘘をついたり、自分のやりたいこととは反対のことを言うと致命傷を受ける可能性があるからかも なんかcodexとかにどっぷり浸かってから、あんまりわざわざLLMに嘘をついたり、こちらの立場を勘違いさせてみたり、みたいなムーブを取る機会が激減したんだよな そんなことを自分のPC上でやったら場合によってはとんでもないことになる可能性があるので とはいえ、たまにやることはないでもないか? 何らか監査をしたい時とか? でも結局ファイルを全部見せたりしていたら嘘つけないからな んー、あと意外性があるのはどちらかというと自分自身にもそういう性質があるよね、っていうのと結びついたところか?
LLMに雑談をさせようとすると、あんまりうまくいかない。もっと積極的に、そしてこちらの予想もつかないことを話させるためにはどうするべきか? 適当にネットサーフィンとか青空文庫でも読ませて、コンテキストを「汚染」するべき? たぶんその方向性はあっていて、本テキストをこちらの会話内容以外のものから入れて、もっと多様な、記憶というか文脈を、変なもの、特殊なものにさせないといけない。 その一つとして俺が思っているのは、乱数で例えば「あ」とか「タ」とかを生成して、その5文字を頭文字にした単語をいくつか作る。さらに、その5文字のうちどれかを使って文章を作る。そういうことをやった後で、それらについて雑談する、みたいな工程を一回挟む。 つまり、決定論的な過程によってランダムを無理やり作る。それによって雑談の独自性や独創性を上げる必要があるのかなと思う。 これって人間でもやっていて、ランダムなワードメーカーみたいなもので適当に複数の単語を出力して、それらを組み合わせて新しいものを発見する、というのはよくある手法なんだけど、その応用みたいなことができるんじゃないかなとはちょっと思ってる。 あと、人間において雑談が面白く感じるのって、その人が自分とは違う体験をしているからだと思う。ってことは、AIというかLLMエージェントにおいても、自分とは全然違う体験をさせる必要がある。 それをどうやるかとなると、やっぱりこの現実世界に放流することなんじゃないかと思う。現実世界こそが一番ランダム性を生み出しやすい場所なので、そこに何らかの形で参画させて、そこでコンテキストを「汚染」する必要があるんじゃないかなと思うん。 それこそSNSとかに放流して体験を蓄えさせたり。そうしないと、なんかつまらないエージェントにしかならない気がする。
どうなんすかね Youtubeや配信にこだわる必要ってどこにあるの?って考えは生まれてくるわけで、tuberをどこまで重く見るべきなのかって話はたぶんクソ昔からあるんだろうな 3Dとその仮想世界に拘泥していた価値観から、2Dとより「中」に寄っていき、現実世界のビジネスモデルの焼き直しをし続けている今 そういう意味ではmekparkがYoutubeのリンクを張っているのは不思議で、Youtubeを活動場所にする必要ってあるんかね そもそも「Vtuber練習生」である必要はあるのか? Vtuberですよ!ってことにすることで既存の商圏を引き継ぎたいってこと? どこか不誠実に見える 今までの「Vtuberアイドル路線」から脱却したくてやり始めると書かれているけど、その路線ってそもそも会社側が提示したわけだよな? デビュー時にはそうとは説明されていなかったりしたのに
高い支持率って結局のところ無謬という幻想をもとに生まれたものだから、どこかで方針転換とかそういうのをし始めた瞬間に一気に瓦解するんだと思う 俺なんかはむしろ君子豹変す、なんつって方針転換をするんだったら、それは正しいことだと思うんだけど、どうも多くの人っていうのはそうじゃなくて、間違った判断をし続けることよりも、判断が間違っていたと認めた瞬間に一気に心が離れるみたいなんだよね
ゲーム作らせるかーと思って試して思ったけど、マジでCodexってデザインというかUI作る能力がゴミカスだな ゲームの手触りって見た目が相当の部分占めるけど、マジでそういう部分には向いていない気がする Claudeのほうがマシなのかな