saibox

LLMは概念を理解しているか

作成：更新：

現在の主要なモデルにポチョムキン的理解が普遍的に存在し、
その原因が単に知識不足ではなく、内部表現の非一貫性にあることが示された

宣言的知識（説明のための知識）と手続き的知識（運用のための知識）がLLM内部で独立して存在していて、互いに連携していない

ポチョムキン的理解

ある概念に対し説明できるのに運用できないという理解状態

参照

Graph