RLHF چیست و چه نقشی در «مؤدب و مفید» شدن چت‌بات‌ها داشت؟

یادگیری تقویتی از بازخورد انسانی (Reinforcement Learning from Human Feedback). انسان‌ها چند جواب مدل را مقایسه و رتبه‌بندی می‌کنند؛ یک «مدل پاداش» از این رتبه‌ها یاد می‌گیرد چه جوابی بهتر است؛ و مدل اصلی آموزش می‌بیند جواب‌هایی بدهد که پاداش بیشتری بگیرند. یکی از رازهای اصلی تبدیل یک مدل خام به دستیاری که دلمان می‌خواهد با آن حرف بزنیم.