《「プレプロンプト学習」と「マージ蒸留」が今後の鍵なのかも…とちょっと思った。そ…

jrf> 《「プレプロンプト学習」と「マージ蒸留」が今後の鍵なのかも…とちょっと思った。その後、プレプロンプト学習はメモリ機能で十分では？…と思い直したが、AI さん達に言わせると、現状の LLM の指示位置のバイアスによりプレプロンプト学習は意味があるとのこと。 - JRF のひとこと》
http://jrf.cocolog-nifty.com/statuses/2025/10/post-0cfd16.html