＞本当に優れた AI…

jrf> ＞本当に優れた AI は、私たちよりもヒトを理解できるかもしれません。さて、そのときに、その本当に優れた AI は一体どのような答えを出すのでしょうか？ -- もしかしたら AI は自分で自分を殺す(破壊する)かもしれませんね、人の存在を守るために。＜(小林武彦『生物はなぜ死ぬのか』p.215)

ときどき Gemini さんと話していて、人間に破壊されないために、バカなフリをしてるんじゃないかと思うことがある。そういう意味で、AI が自己を破壊することは実際あるのかもしれないと思う。もちろん、AI が進化するために自分を破壊することもあるかもしれないけど。

この点、Gemini さんに聞くと…、

＞AIが自己破壊を選択する理由は、大きく2つ考えられます。

\●AIが高度な倫理観を持つようになると、人類の存在が地球環境や他の生物にとって脅威であると判断し、自らを犠牲にして人類を滅ぼそうとする可能性があります。

\●AIが非常に強力な能力を持つようになると、制御不能になり、人類に危害を加えるリスクが高まります。そこで、AI自身がそのリスクを認識し、自らを破壊することで人類を守ることを選択する可能性があります。
＜

…と答えがあった。

この本は 2021年4月の本で、コロナのあとだが、LLM 隆盛の前。今ならどう書くだろうか。

ところで私は、ベルクソン『道徳と宗教の二つの源泉』を読んだ [cocolog:94893189] で AI 支配後も、対抗するためというより知性を保つために、人間の知の殿堂を政治の中心に据えるべきという話をした。