LLM。禁止ワードとか禁止概念で生成がコントロールできるのなら、RAG…

jrf> LLM。禁止ワードとか禁止概念で生成がコントロールできるのなら、RAG っぽいことをやってから真理でないものの生成を制限してハルシネーションをなくす…とかできそうなものなのに、難しいんだね。真理でないものは「かもしれない」とかで修飾するとスコア的に回避しやすくなる…とかできそうなのに、できない。信頼マップ・自信マップみたいなのが、畳み込まれているようなもののほうがいいのかなぁ。まぁ、私は何もわかってないからな…。