LLMの限界と幻覚: 事実性・評価・品質保証をどう設計するか
LLMの幻覚は、学習と評価のインセンティブ、推論時の確率生成、文脈設計の限界が重なって起きる。評価と品質保証の実務設計を整理する。
LLMの幻覚は、学習と評価のインセンティブ、推論時の確率生成、文脈設計の限界が重なって起きる。評価と品質保証の実務設計を整理する。
LLMの選択肢は、重みを変えるか、文脈を変えるか、外部操作を増やすかで整理すると分かりやすい。実務での使い分けをまとめる。
LLMの仕組みを、トークン化・埋め込み・自己注意・事前学習・推論・文脈長に分けてやさしく整理する。
暗黙知の形式知化に生成AIを使うと何が進み、何が失われるかをSECIとLLMの限界から整理する。
Graphiti と MCP を使ったAIエージェント記憶基盤の設計、導入判断、代替サービスを実務目線で整理する。
LLM、記号接地、Ontology、Graphiti、MCPを組織ナレッジ活用の判断材料として一続きに整理する。