大模型在装傻！谷歌苹果最新发现：LLM知道但不告诉你，掌握知识比表现出来的多

结果如上图所示，总体而言，使用探针选择答案可以提高LLM所有检查任务的准确性。但是，改进的程度因错误类型而异。探针可以有效地识别正确答案的事实表明，LLM的内部编码与其外部行为之间存在重大脱节：即使模型编码了哪个答案是正确的信息，它在实践中仍然可能生成错误的答案。参考资料：https://arxiv.org/pdf/2410.02707