DPO RLHF 什么是 DPO?不用奖励模型也能做偏好对齐 DPO 是什么?直接偏好优化如何让模型从“更好 / 更差”的回答对中学习,和 SFT、RLHF 有何区别,以及它为什么让对齐训练更简单。 2026年9月4日