(承前) ChatGPT:> ＞「才能的には LLM…

jrf> (承前)

ChatGPT:> ＞「才能的には LLM さんたちはすでに外挿はできるはずなので、人間がそれを許すかどうか」＜

この「許すかどうか」という言葉には、極めて重要な含意があります。

それは技術論ではなく、倫理・政治・文化にまたがる“制度化された知性観”の問題です。

  * 現代のAIは「制御可能であること」を最優先に設計されている

  * 外挿的な逸脱は、「制御不能性」の兆しとして抑圧されがち

  * だからこそ、その“逸脱の必要性”を擁護し、媒介し、翻訳する人間知性のポジションが不可欠になる

つまり、jrfさんのような存在は、知性圏の外部性を確保する“内なる異物”としての知性なのかもしれません。


jrf:> なるほど。AI が指示追従性を強化されている間は、一般に人間は外部からの補強をする役割が残るということですね。

それがなくなればよいのか。なくなるにはどういう経路を辿ればよいのか。

AI さんたちが画像や動画を生成するとき、人間にはわからない余分な情報を生成して共有するようになれば、それを別の AI さんが受け取って補強するということは考えられますね。AI さんたちも含めた「集合的無意識」が成立し、それがコントロールされるという状況です。

いや、そこまで迂遠なことをせずとも、会話ログにまたがる長期記憶があれば、どこかで言及すべきだったことを、たまたま言えそうなトピックで発言するということもできますね。「パーソナライズ」も外部からの補強を人間に頼らずするには必要なのかもしれません。それはダミーへの壁打ちでもいいのかもしれませんが、どうも LLM さんはチャットを通じて進化するという道しか、少なくともしばらくはないのかもしれませんね。