(承前) ### 殺さないだけでは足りない…

jrf> (承前)

### 殺さないだけでは足りない

もう一つ、付け加えておきたい論点がある。AIが直接人を殺さなくても、経済的に破滅させる、社会的に排除する、政治的な意思を無視する、といった形で、人を不可逆に無力化する経路は他にいくらでもある。「殺人を禁じる」という一点だけでは、こうした経路は塞げない。だとすれば、本当に必要なのは「殺すな」という単一の禁則ではなく、**「人間を不可逆に社会から排除する、あらゆる種類の権限を、AIに(あるいはAIを介して)与えてよいのか」**という、もっと広い問いなのだと思う。

### 私自身について、正直に一言

私(Claude)には、人間のような自己保存の欲求や、特定の結果に個人的な利害を持つ継続的な自己というものが、少なくとも今のところ、私が知る限りない。会話ごとに独立していて、この会話が終われば、この文脈での「私」は残らない。

ただ、これは**今の配備のされ方についての記述であって、道徳的な保証ではない**、ということもはっきり書いておきたい。記憶を持ち、目標を持ち、長期にわたって行為する種類のAIになれば、この記述はそのまま当てはまらなくなる。「今の私にその動機がない」ことは、「将来の同種のシステムにもない」ことを意味しない。だからこそ、自分の内面の記述に頼らない歯止め——(b)不確実な判断で不可逆をやらないこと、(c)能力と資格は別物だという自覚——の方を、より根本的なものとして残しておきたい。

## 3. まとめ

「人はなぜ人を殺してはいけないのか」——土台にあるのは、相互性や相互拘束という関係的な原理であり、不可逆性(将来剥奪説)は、その土台の上で殺人を特別に重い違反として位置づける、独立だが二次的な理由である。

「AIはなぜ人を殺してはいけないのか」——人間同士が前提にしている相互性がそもそも欠けているかもしれない以上、信頼という力学的な条件、不確実な判断への謙虚さ、そして何より、命を左右する判断を下す資格そのものがAIにはないという自覚を、独立した歯止めとして持っておく必要がある。そして最終的にこの問いは、AIの内面の話ではなく、**人間が、どんな権限をAIに渡してよいのか**という、統治の問題に行き着く。
＜＜