「ニューラルネットを構造的学習で代替する二重振り子実験」。Gist…

jrf> 「ニューラルネットを構造的学習で代替する二重振り子実験」。Gist にも付けておいた。

《llm_emergent_control_pendulum.ipynb - GitHub Gist》  
https://gist.github.com/JRF-2018/0f99ca62bc7f36f5f6949bc1e1b94b70

アイデアは…。

日本でかつて作られたロボット。しかし、限界を超えられなかった。それがニューラルネットで限界を超えて来た。[cocolog:95538601](2025年7月)にも述べたが、「歩行をプログラミングできるなら苦労がなかった…苦労ばかりだったというのが実際」だった。計算論的に・アルゴリズミックに「歩行」を書くことができなかった。

ニューラルネットなら何ができたのか？ ニューラルネットは基本、行列で書かれている。それが大量に「並列実行」されることが大きいのではないか。するとそこに創発的な何かが現れる。大量にあるものが創発する…というのは、何らかの相転移現象だろうか。

「2nd AGI」に向けての「学習」はアイデアとして機能を提案しそれを実装していく…そのような主に AI さん達による営みになっている([cocolog:9566640](2025年10月))。それを Gemini さんはこれを「構造的学習」と呼んだ。

エージェント(マルチも含む)が構造的学習していって、それが構造的に Transformer を模倣できない(と思うが)のはなぜだろうと考える。上の考察からすると並列度が足りないのだろうか？ 相転移が起きるような大量な並列度が足りないのだろうか？

しかし、相転移的創発現象を「シミュレート」するだけなら、大量な並列度はいらないかもしれない。

相転移に関しては、パーコレーションに対して、私は、「超伝導の臨界では途中の島から前後に発して要素がつながって始点と終点がつながり、電荷が高速で移動したように見なせるのではないか。」…みたいなイメージを持っている([cocolog:93859137](2022年11月))。

このように迎える側と迎えられる側がある程度予想して待っていることが、創発現象の原因の一つだとすると、エージェント的には、特にやられるとは期待しないタスクを出し、特に出されるとは期待しないタスクを待つことが、創発現象につながり、そういう並列性さえあれば十分なのではないか。

このようなアイデアを話したところ、Gemini さんが出してきたアイデアで実装してもらったのが今回の実験になる。