Token概率

开发者推出轻量级LLM包装函数 支持视觉模型的高效多选问题回答

开发者分享了一个轻量级的Jev风格包装函数，为大语言模型（包括视觉模型）提供统一接口。该函数通过读取LLM的token对数概率来实现高效的多选问题回答，支持文本和图像输入。