فلش‌کارت هوش مصنوعی

فعلاً بیشتر «اهرم» برنامه‌نویس‌اند تا جانشینش. کارهای تکراری، کد اولیه و توضیح خطا را سریع انجام می‌دهند؛ ولی فهم نیاز مشتری، طراحی سیستم، تصمیم‌گیری و بازبینی کد هنوز کار انسان است. برنامه‌نویسی که بلد است از این ابزارها درست استفاده کند، از برنامه‌نویسی که بلد نیست جلو می‌افتد؛ این مهارت امروز بخشی از شغل است.

ترنسفورمر معماری‌ای است که در مقاله «Attention Is All You Need» گوگل معرفی شد و تقریباً همه مدل‌های زبانی امروز بر پایه آن‌اند (حرف T در GPT). نوآوری اصلی «توجه» (Attention) است: هر کلمه می‌تواند مستقیم به همه کلمه‌های دیگر متن نگاه کند و بفهمد کدام برایش مهم‌ترند. و چون موازی‌پذیر است، آموزش روی داده‌های عظیم با GPU ممکن شد.

نشانه‌ای آماری که هنگام تولید در محتوا جاسازی می‌شود و به چشم دیده نمی‌شود؛ مثلاً ترجیح نامحسوس برخی توکن‌ها در متن، یا تغییر جزئی پیکسل‌ها در تصویر (مثل SynthID گوگل). ابزار مخصوص می‌تواند آن را تشخیص دهد. ولی قطعی نیست: ویرایش، ترجمه یا بازنویسی می‌تواند آن را ضعیف یا پاک کند.

پژوهش‌ها نشان دادند خطای مدل با بزرگ‌تر شدن سه چیز به شکل نسبتاً قابل‌پیش‌بینی کم می‌شود: تعداد پارامتر، حجم داده و توان محاسباتی. یعنی می‌شود پیش از صرف میلیون‌ها دلار، با مدل‌های کوچک‌تر حدس زد مدل بزرگ چقدر خوب می‌شود. یافته مهم بعدی: برای هر بودجه، نسبت بهینه‌ای بین اندازه مدل و حجم داده هست.

مثل سه دایره تودرتو: هوش مصنوعی (AI) بزرگ‌ترین دایره است: هر سیستمی که کار «هوشمندانه» انجام دهد. یادگیری ماشین (ML) داخل آن است: سیستم‌هایی که از داده یاد می‌گیرند به‌جای اینکه قانون‌ها را دستی برایشان بنویسیم. یادگیری عمیق (Deep Learning) داخل ML است: یادگیری با شبکه‌های عصبی چندلایه؛ همان چیزی که ChatGPT را ممکن کرد.

سهم متن فارسی در داده‌های آموزشی خیلی کمتر از انگلیسی است، و متن فارسی به توکن‌های بیشتری شکسته می‌شود. ترفندها: سؤال‌های فنی را دقیق و با اصطلاح انگلیسی تخصصی بپرسید، از او بخواهید «به فارسی روان و طبیعی» جواب بدهد، و برای متن رسمی، آخر کار یک بار ویرایشش کنید.

بر اساس توکن؛ جدا برای ورودی (پرامپت شما) و خروجی (جواب مدل). توکن خروجی معمولاً چند برابر گران‌تر است. پس پرامپت‌های طولانی تکراری و جواب‌های پرحرف، هزینه را بالا می‌برند. ترفندها: جواب کوتاه بخواهید، برای کارهای ساده مدل کوچک‌تر بگیرید، و زمینه ثابت را کش کنید.

چند نمونه واقعی از نوشته خودتان به او بدهید! به این «یادگیری با چند نمونه» (Few-shot) می‌گویند. توصیف سبک («صمیمی بنویس») کمک می‌کند، ولی دو سه نمونه واقعی خیلی دقیق‌ترند؛ مدل الگو را از روی مثال‌ها برمی‌دارد: طول جمله‌ها، لحن، حتی ایموجی‌ها.

چت‌بات جواب می‌دهد؛ ایجنت کار انجام می‌دهد. ایجنت می‌تواند ابزار به کار ببرد (جست‌وجو، اجرای کد، ارسال ایمیل، کار با فایل)، نتیجه را ببیند و برای قدم بعد تصمیم بگیرد؛ تا وقتی هدف انجام شود. مثال: «پروازهای ارزان هفته بعد را پیدا کن و در یک جدول مقایسه کن» برای ایجنت یک کار چندمرحله‌ای است.

پاسخ: استفاده از Context پروژه، فایل‌های دستورالعمل، انتخاب فایل‌های مرتبط و ابزارهای جست‌وجوی کد دلیل: اطلاعات مرتبط و هدفمند، مصرف Context را کم می‌کند و تمرکز را بیشتر.

در ایجنت‌ها و برنامه‌های واقعی، کیفیت جواب کمتر به جمله‌بندی پرامپت و بیشتر به این بستگی دارد که «چه چیزی» در پنجره زمینه است. کدام اسناد بازیابی شوند، کدام ابزارها معرفی شوند، تاریخچه چطور خلاصه شود، و چه چیزی بیرون بماند. زمینه کم، مدل را بی‌اطلاع می‌گذارد؛ زمینه زیاد و شلوغ، حواسش را پرت می‌کند.

یعنی فریب دادن مدل با نقش‌بازی، سناریوی خیالی یا جمله‌بندی زیرکانه تا قوانین ایمنی‌اش را دور بزند. چون زبان بی‌نهایت راه برای گفتن یک چیز دارد، نمی‌شود همه را از قبل بست؛ این یک مسابقه دائمی بین مهاجم و مدافع است. برای همین در محصول واقعی، فقط به «مدل خودش رد می‌کند» تکیه نکنید و کنترل‌های بیرونی هم بگذارید.

از Context Rot: افت کیفیت پاسخ وقتی Context بزرگ و نامرتب می‌شود؛ حتی پیش از پر شدن سقف. مثل میزی که صبح مرتب بود و حالا پر از کاغذ قدیمی و یادداشت متناقض است. علت‌ها: لاگ‌های طولانی، دستورهای متناقض، پیشنهاد ردشده‌ای که هنوز در تاریخچه است، و دستور اصلی که پنجاه پیام عقب مانده. نشانه‌ها: قید را رعایت نمی‌کند، راه‌حل ردشده را دوباره می‌دهد، کلی‌گویی می‌کند و حرف قبلی‌اش را نقض می‌کند. مدل خنگ نشده؛ میزش شلوغ شده.

پیامی که پیش از گفت‌وگو و پنهان از کاربر به مدل داده می‌شود: نقش، قوانین، لحن و محدودیت‌ها. مثلاً «تو پشتیبان آکادمی بدیعی هستی، فقط درباره دوره‌ها جواب بده و قیمت را از جدول زیر بخوان.» در API معمولاً جای جدایی دارد و مدل آن را از پیام‌های کاربر مهم‌تر می‌گیرد؛ ستون اصلی هر چت‌بات سفارشی.

با «توکن»: تکه‌هایی که می‌تواند یک کلمه کامل، بخشی از کلمه یا حتی یک نویسه باشد. مدل فقط عدد این توکن‌ها را می‌بیند، و سقف طول ورودی و هزینه API هم با توکن حساب می‌شود. نکته جالب: متن فارسی معمولاً به توکن‌های بیشتری از همان متن انگلیسی شکسته می‌شود؛ یعنی کمی گران‌تر و جاگیرتر است.

RAG (تولید همراه با بازیابی). کتاب‌ها و جزوه‌ها تکه‌تکه می‌شوند و هر تکه به یک بردار عددی (Embedding) تبدیل و در پایگاه داده برداری ذخیره می‌شود. وقتی سؤال می‌پرسید، مرتبط‌ترین تکه‌ها پیدا و همراه سؤال به مدل داده می‌شوند تا از روی همان‌ها جواب بدهد. مزیت: نیازی به آموزش دوباره مدل نیست، منابع هر وقت عوض شوند جواب‌ها هم به‌روز می‌شوند، و مدل می‌تواند بگوید جواب را از کدام صفحه آورده.