Perplexity-Rechner

原理：困惑度 PPL = 2^H 是熵的指数化口径——「模型每一步实际在多少个等概率选项里犹豫」。均匀分布 4 选 1 时 PPL = 4；完美预测时 H = 0、PPL = 1。语言模型评测里的 PPL 通常由自然对数损失换算：PPL = e^loss。

步骤：① 输入概率分布或交叉熵损失；② 点击计算；③ 读出熵与困惑度。

示例：p = (0.4, 0.3, 0.2, 0.1) 时 H = 1.846439344671、PPL = 3.596115466624——相当于在 3.6 个等概率选项中做选择；损失 0.6931 时 PPL = 1.999905641106，即约 2 选 1。

注意事项：分布与损失的口径必须一致（比特对应 2^H，奈特对应 e^H）；困惑度越低越好但没有绝对下限参照——不同词表大小、分词方式下的 PPL 不可直接比较；它衡量的是分布匹配度，不是生成质量。

相关：交叉熵计算器给出 PPL 的底层数量；信息熵计算器是 H 的完整讲解；KL 散度计算器解释模型分布与真实分布的差距。