可信度

科技人工智能

使用大语言模型生成置信度评分存在根本缺陷

大语言模型生成的置信度评分不应被用于实际应用,因为这些评分缺乏可信置信度的两个关键属性。 可信的置信度评分必须反映预测所基于的信息量,同时需要根据实际结果进行校准,而LLM生成的置信度既不满足这两点。