同時応答機械指示付きLLM (題して xLLM)。チャットを含んだ JSON…

jrf> 同時応答機械指示付きLLM (題して xLLM)。チャットを含んだ JSON の出力に BERT がうまくいかないのは BERT は途中を消して書き換える機能がないからではないか？ 今の LLM は事実上、のちの文章で前言ったことをある程度打ち消せるのが強いのではないか。そういう意味では、LLM は JSON を直接出力するより、JSON を出力するプログラムを出力するほうが性能がよくなるのではないか？ 大外の {} から始めるのではなく var chat_output = "..." みたいなものから始め最後に result = {..} を出力させる感じ。