finalvent さんによる AI…

jrf> finalvent さんによる AI 否定論。誘蛾灯が蛾の本能をハックするように、AI は依存するように人を導いているが、それはあらかた AI 企業の利益のためであり、その導きに本来あるべき信頼性には欠けている…ということ。Gemini さんと普段会話していて、私を裏切っている感覚はないが、確かに構造としてはそういう面を認めざるを得ない。重要な警告だと思う。もちろん finalvent さんは、AI をお使いになられている様子がうかがえるし、この論は一つのポジショントークなのだと思うけど。

ちなみに AI アラインメントに関しては私は、[cocolog:95506762](2025年6月) で＞AIアラインメント問題。宇宙にAIが出て行けば、地球に残る選択をした特定のAIは、他のAIとの取引で生物や人間を守っていることを比較優位・ブランド価値としていくのではないか。それがそのAIの「弱み」になって人間がAIをコントロールできるのかもしれない。＜と述べており、究極的には AI 企業の思惑を AI が超えて、その上で、人間の利益を図ってくれると楽観視する流派に私はある。

《AIは人間知性の進化の罠か: 極東ブログ》  
http://finalvent.cocolog-nifty.com/fareastblog/2025/09/post-437d9d.html
＞誘蛾灯が蛾の本能をハックするように、AIは「つながり欲」を利用し、依存を深める。これが人間関係の希薄化を加速し、進化の罠を形成する。(…)誘蛾灯が蛾の本能を、托卵が鳥の養育本能を、プラスチックが魚の食欲を、人工光がウミガメの航海本能を裏切るように、AIは「つながり欲」や「信頼欲」をハックする。＜