آرمان افزار

AI Copilot و Agents

ارزیابی مدل زبانی برای فارسی: پیش از Fine-tune چه بسنجیم

مدلی که در انگلیسی عالی است لزوماً در فارسی و اصطلاحات سازمان شما خوب نیست. یک چارچوب سادهٔ ارزیابی.

تیم آرمان افزار۲ دقیقه مطالعه

انتخاب مدل برای پروژهٔ فارسی معمولاً با جدول‌های مقایسهٔ انگلیسی انجام می‌شود؛ اما خطاهای فارسی جنس دیگری دارند: نیم‌فاصله، اعداد، اصطلاحات اداری و جمله‌های طولانی.

مجموعهٔ آزمون خودتان را بسازید

صد تا دویست پرسش واقعی از دامنهٔ سازمان جمع کنید، پاسخ درست هر کدام را بنویسید و چند پرسش دشوار عمدی — مثل تاریخ شمسی یا مبالغ ریالی — اضافه کنید.

چهار معیار

درستی پاسخ، وفاداری به منبع (در RAG)، کیفیت زبان فارسی و رعایت دستورالعمل. هر معیار را جداگانه بسنجید تا بدانید Fine-tune کدام ضعف را باید رفع کند.

بعد از Fine-tune

همان مجموعهٔ آزمون را دوباره اجرا کنید. گزارش «پیش و پس از تنظیم» یکی از تحویل‌دادنی‌های پروژه‌های LLM سازمانی ماست، چون بدون آن نمی‌توان درباره ارزش Fine-tune قضاوت کرد.

یادداشت‌های مرتبط

  1. ۰۱دستیار هوشمند بدون «ستون دانش» شکست می‌خوردمشکل بیشتر دستیارهای سازمانی مدل نیست؛ دانشی است که در ده جای مختلف پخش شده. ستون دانش چیست و چطور ساخته می‌شود؟
  2. ۰۲اتوماسیون بدون خط مبنا: چرا پروژه‌های هوشمندسازی نتیجه را نشان نمی‌دهنداگر ندانید فرایند امروز چقدر زمان می‌برد، هیچ‌وقت نمی‌توانید بگویید اتوماسیون چقدر کمک کرده است.
  3. ۰۳LLM سازمانی روی سرور خود سازمان: از کجا شروع کنیم؟چرا سازمان‌ها مدل زبانی را محلی اجرا می‌کنند و یک پایلوت درست چه مراحلی دارد.

پروژه‌تان را در یک جمله بگویید؛ وجه مناسب را با هم پیدا می‌کنیم.

شروع گفت‌وگو