در سال‌های اخیر، شاهد گذار خیره‌کننده هوش مصنوعی از سیستم‌های ساده مبتنی بر قوانین، به مدل‌های زبانی بزرگ (LLMs) مانند GPT-4 هستیم. این جهش ناگهانی، نتیجه یک تصادف نیست؛ بلکه حاصل تلاقی قدرتمند سه رکن اصلی است. اگر بخواهیم بر مهم‌ترین عامل تمرکز کنیم، باید از لایه‌های زیرین سخت‌افزار تا لایه‌های پیچیده ریاضیات را بررسی کنیم.

۱. انقلاب سخت‌افزاری: موتور محرک یادگیری عمیق

بدون شک، مهم‌ترین عامل فیزیکی در سرعت بخشیدن به مدل‌های هوش مصنوعی، تراشه‌های پردازش گرافیکی (GPU) و به تبع آن واحد‌های پردازش تنسوری (TPU) هستند.

در گذشته، پردازنده‌های مرکزی (CPU) برای انجام محاسبات سنگین هوش مصنوعی بسیار کند عمل می‌کردند. اما مدل‌های هوش مصنوعی بر پایه «جبر خطی» و انجام میلیون‌ها محاسبه هم‌زمان (Parallel Computing) بنا شده‌اند. GPUها برخلاف CPU، هزاران هسته کوچک دارند که قادرند این محاسبات ماتریسی را به صورت موازی و با سرعتی باورنکردنی انجام دهند. این توان پردازشی بالا، زمان آموزش مدل‌هایی که پیش‌تر دهه‌ها طول می‌کشید را به چند هفته یا چند ماه کاهش داده است.

۲. معماری ترنسفورمر (Transformer): انقلاب در ساختار داده‌ها

اگر سخت‌افزار را «موتور» در نظر بگیریم، معماری Transformer «طراحی مهندسی» این خودرو است. پیش از معرفی این معماری در سال ۲۰۱۷، مدل‌ها (مانند RNNها) داده‌ها را به ترتیب و یکی پس از دیگری پردازش می‌کردند که باعث کندی شدید و فراموشی اطلاعات در متن‌های طولانی می‌شد.

معماری ترنسفورمر با معرفی مکانیزم «توجه خودکار» (Self-Attention)، اجازه می‌دهد مدل تمام کلمات یک جمله را به صورت هم‌زمان ببیند و ارتباط بین آن‌ها را درک کند. این قابلیت دو مزیت بزرگ ایجاد کرد:

• پردازش موازی: برخلاف مدل‌های قدیمی، اکنون می‌توان تمام داده‌ها را هم‌زمان به مدل داد (افزایش سرعت آموزش).

• درک عمیق‌تر: مدل می‌تواند روابط پیچیده بین کلمات دور از هم را در کسری از ثانیه تشخیص دهد.

3. داده‌های عظیم (Big Data) و مقیاس‌پذیری (Scaling Laws)

عامل سوم، حجم بی‌نظیر داده‌هایی است که این مدل‌ها با آن تغذیه می‌شوند. قانون مقیاس‌پذیری (Scaling Laws) نشان داده است که با افزایش حجم داده‌ها و تعداد پارامترهای مدل، هوش مدل به صورت نمایی رشد می‌کند. دسترسی به این حجم از داده‌های متنی (از کتاب‌ها گرفته تا کدهای برنامه‌نویسی) در کنار توان پردازشی بالا، باعث شده تا مدل‌ها بتوانند الگوهای پیچیده انسانی را با سرعت بالا یاد بگیرند.

نتیجه‌گیری: آینده در گرو چه چیزی است؟

اگر بخواهیم خلاصه کنیم، «هم‌گامیِ پیشرفت در معماری الگوریتم (ترنسفورمر) و توان پردازشی سخت‌افزار (GPU/TPU)» اصلی‌ترین عامل شتاب‌دهنده است. در آینده، تمرکز از صرفاً بزرگ‌تر کردن مدل‌ها، به سمت بهینه‌سازی سرعت استنتاج (Inference) و کاهش مصرف انرژی خواهد رفت تا هوش مصنوعی بتواند در دستگاه‌های کوچک‌تر و با سرعت بیشتر در دسترس همگان قرار گیرد.