大语言模型生成的置信度评分不应被用于实际应用，因为这些评分缺乏可信置信度的两个关键属性。 可信的置信度评分必须反映预测所基于的信息量，同时需要根据实际结果进行校准，而LLM生成的置信度既不满足这两点。
Cactus团队通过后训练技术对Gemma 4模型进行改进，使其能够识别自身的错误并输出0至1之间的置信度分数 。