「安全」は人にとっての安全なので、(地球上では)結局は「(AIが補助すれば)人間…

jrf> 「安全」は人にとっての安全なので、(地球上では)結局は「(AIが補助すれば)人間にわかる範囲」でしか、「工場」の運用でも使えないだろう。その範囲に「オープンモデル」は能力が制限されるし、「オープンモデル」の能力を上げようと思えば、「(AIが補助すれば)人間にわかる」ことへ投資せざるを得ない。しかし「オープン」である限り、その投資が企業体では回収できないのかもしれない。

将来の Kimi などが危険な状態で公開されているとする。最先端モデルはそれへの対策を望まれるが、他のインフラ等がかかわる問題なので、原理的に完全対策はできない。すると、Kimi などを使うことも禁じれなければならない。ただ、「デカい PC」が必要なので、ある程度の規制は有効に働くだろう。

ロシア(の一部)など国家レベルのものが Kimi を危険な方向に使ったらどうなるか？ 隠れて使っているのを叩けるか？ 叩けないだろう。安全策が十分でないから自滅する…といいたいところだが、人間には理解不能な安全策があって、それが他の国家では「頭が固くて」使えないから、逆に安全になるという道もあるのかもしれない…。

ただ、「(地球上で)人間にとっての安全」は意外に収束していくべき性格のもので、「(AIが補助すれば)人間にわかる」ことへの国家などによる投資は、「脱法国家」にもいずれ利用され、意味がないことはないのかもしれない。