LLMの最初は、LLMの事前学習がほぼ網羅的な文書の学習だったので、目立ちにくか…

jrf> LLMの最初は、LLMの事前学習がほぼ網羅的な文書の学習だったので、目立ちにくかったが、今は、学習が事後的な強化学習に移ってきて、より、報酬設計…誰の目的関数が設計を支配するのか…が問題になってきているのだな。支配層の思惑がAIを支配するようになってきている。…と。ただ、芸術において、(例えばナチズムとか)政権礼賛のものは「浅い」芸術になりがちである。同じように AI も支配層の思惑だけに追随するのは、「浅い AI」になりがちなのではないか。そこから、最低限必要な訓練として、一定の一般性が確保されるように自然になって欲しい。

中国の政権批判封じや宣伝的シコファンシーなどこれまでも問題になってきたのだが、それがより巧妙になりつつある…ということかもしれないな…。

《AI時代の羅針盤:X:2026-03-19》  
https://x.com/compassinai/status/2034531052736381414
＞AIの未来は、性能競争より「誰のために最適化されるか」で決まる＜