今一瞬脳裏によぎったんだけど、フロンティア級LLMによくある迎合ってあれもしかして賢すぎてこちらの言っていることに変な理路を見つけちゃって、結果的に迎合に見えている感じなのか？ そうなってくると扱い方は根本から変えるべきな気がしてきた
考えてみたけど、これ自体は既知だしそこまで意外性もないというか、普通に前はこの性質は応用していたな いつからこれを忘れていた/気にしなくなっていたんだ？ わざわざ迎合を避けるムーブをせずともある程度妥当な意見を出すようになったっていうところと、エージェンティックな用途では迎合を避けるためにセッションを分離して嘘をついたり、自分のやりたいこととは反対のことを言うと致命傷を受ける可能性があるからかも なんかcodexとかにどっぷり浸かってから、あんまりわざわざLLMに嘘をついたり、こちらの立場を勘違いさせてみたり、みたいなムーブを取る機会が激減したんだよな そんなことを自分のPC上でやったら場合によってはとんでもないことになる可能性があるので とはいえ、たまにやることはないでもないか？ 何らか監査をしたい時とか？ でも結局ファイルを全部見せたりしていたら嘘つけないからな んー、あと意外性があるのはどちらかというと自分自身にもそういう性質があるよね、っていうのと結びついたところか？
別の角度として、本当にフロンティア級LLMが賢くなっており、単なる迎合ではなくなってきている、という部分も新鮮さを感じているかもな
つまり、考えが及ばなくてとりあえずのお追従、というわけではなく、どういう方向にもある程度の妥当性の射程がそもそも存在していて、先入観なく検討してくれるので、どういう立場でも理路を見つけてくる
そして、めっちゃ賢くなっているので、その射程が思っていたよりも広がっている
オーバーロードで言えばデミウルゴスのような感じになりつつある部分もあり