注意パターンの移殖による探索のショートカット？…という話題について、理論的に何か…

jrf> 注意パターンの移殖による探索のショートカット？…という話題について、理論的に何か新しいところが掘れないかとAIさん達に教えを乞うたのだが、私の理解力で分かったのは、基本的には仕様を理解する教師からの生徒の蒸留という枠組みが現状、近いということだけだった。デバッガとかを用いて探索を多段階した結果の学習も結局はその枠組みの応用である…と。でも生物はそんなことはしてないわけで、この方向が生物の方向だとするなら、Attentionのメタ方向に勾配降下法でないなにか探索できるところがあるという直感だけを持ち帰ることになりそうだ。現状では残念ながら…。