عنوان

نقد و بررسی مقالهٔ Dual Adaptation of Time-Series Foundation Models for Financial Forecasting

TimesFM یک مدل پایهٔ سری زمانی است که روی داده‌های متنوع پیش‌آموزش دیده و می‌تواند با چند مشاهدهٔ اخیر، ادامهٔ یک سری تازه را پیش‌بینی کند. با روش‌هایی مثل Adapter و LoRA می‌شود این مدل را با یک مسئلهٔ مشخص سازگار کرد و بیشتر وزن‌های پیش‌آموزش‌دیده را ثابت نگه داشت. حالا فرض کن مسئلهٔ ما پیش‌بینی قیمت فردای یک سهم است.

مدل را روی مجموعه‌ای از سهام آمریکا تنظیم می‌کنیم و فردا باید برای سهمی پیش‌بینی بدهد که هرگز در این مرحله ندیده است. اینجا یک سؤال پیش می‌آید. اگر مدل برای سهم‌های تمرین خوب شده، از کجا بفهمیم چیزی یاد گرفته که به درد سهم تازه هم بخورد؟

فاطمه چیت‌ساز و سامان هراتی‌زاده در مقالهٔ Dual Adaptation of Time-Series Foundation Models for Financial Forecasting یک جواب معماری به این سؤال می‌دهند. بدنهٔ TimesFM را ثابت نگه می‌دارند، یک Adapter مشترک به آن اضافه می‌کنند و برای هر سهم آموزشی یک بردار هویت می‌آموزند. هنگام پیش‌بینی برای سهم تازه، بردار هویت حذف می‌شود و مسیر مشترک به کارش ادامه می‌دهد. مقاله در کارگاه Foundation Models for Structured Data در ICML 2025 پذیرفته شده است. متن مقاله · فهرست مقالات کارگاه

عدد جالب مقاله 20.65 است. این کمترین میانگین خطای مربعی گزارش‌شده برای سهم‌های ناآشناست، با حدود ۲۹۳ هزار پارامتر قابل‌آموزش در برابر ۲۰۳ میلیون پارامتر در تنظیم کامل. اما مدل تنظیم‌شدهٔ کامل به 20.79 رسیده و همین فاصلهٔ کوچک، پرسش اصلی نقد را می‌سازد. کدام بخش نتیجه محکم است و کدام بخش به آزمایش بیشتری احتیاج دارد؟ جدول ۱ مقاله، صفحهٔ ۴

مسئله دقیقاً چیست؟

در هر نمونه، مدل ۶۴ مشاهدهٔ روزانه از قیمت یک سهم می‌گیرد و قیمت جلسهٔ معاملاتی بعد را پیش‌بینی می‌کند. افق آزمایش یک گام است. فرض کن آخرین مشاهده قیمت پایان دوشنبه باشد. مدل از ۶۴ مشاهدهٔ منتهی به دوشنبه استفاده می‌کند تا قیمت سه‌شنبه را تخمین بزند.

[azformula title=”پیش‌بینی یک گام جلوتر”] context = [p(t-63), …, pt] forecast = predicted p(t+1) target = observed p_(t+1) [/az_formula]

دو نوع تازگی در این مسئله داریم. در آزمون درون‌دامنه (ID)، مدل در گذشته نمونه‌هایی از همین سهم دیده و حالا روی تاریخ‌های بعدی امتحان می‌شود. در آزمون برون‌دامنه (OOD)، خود سهم از مجموعهٔ آموزش و اعتبارسنجی تنظیم مالی کنار گذاشته شده است. در هر دو حالت، مدل برای هر پیش‌بینی به تاریخچهٔ اخیر همان سهم دسترسی دارد. پس «zero-shot روی سهم ناآشنا» یعنی بدون به‌روزرسانی وزن‌ها با دادهٔ آن سهم، در حالی که تاریخچهٔ سهم همچنان ورودی پیش‌بینی است. مقاله ناآشنایی سهم را نسبت به مرحلهٔ تنظیم مالی تعریف می‌کند. بخش‌های ۳.۳ و ۴ مقاله

چرا هویت سهم را وارد مدل کنیم؟

دو سهم را تصور کن که در هفتهٔ اخیر مسیر ظاهراً مشابهی داشته‌اند. یکی معمولاً نوسان کمی دارد و دیگری مرتب حرکت‌های بزرگ‌تری تجربه می‌کند. یک Adapter مشترک می‌تواند از شکل تاریخچهٔ هر دو استفاده کند. اگر شناسهٔ سهم هم در ورودی باشد، مدل می‌تواند به دو پنجرهٔ شبیه، بسته به سهم، واکنش متفاوتی نشان بدهد.

فرضیهٔ نویسندگان این است که دادن یک مسیر مشخص برای تفاوت‌های مربوط به هویت، به بخش مشترک کمک می‌کند الگوهای قابل‌انتقال‌تری یاد بگیرد. البته تقسیم معماری فقط جای ورود اطلاعات را مشخص می‌کند. شبکه همچنان می‌تواند بخشی از ویژگی‌های سهم را از روی تاریخچه حدس بزند یا از امضا برای تقویت یک رفتار مشترک استفاده کند. برای همین باید سراغ آزمون حذف اجزا برویم و ببینیم حضور امضا در آموزش، وقتی در آزمون حذف می‌شود، چه اثری دارد. بخش‌های ۳.۲ و ۵ مقاله

از ۶۴ قیمت تا دو توکن

در پیکربندی مورد بحث، TimesFM ورودی را به قطعه‌های ۳۲تایی تقسیم می‌کند. برای یک پنجرهٔ کامل ۶۴تایی، دو patch داریم. بلوک ورودی هر patch را به یک بردار ۱۲۸۰بعدی تبدیل می‌کند. دو ماژول مقاله درست پس از این بلوک و پیش از لایه‌های Transformer وارد مسیر می‌شوند. لایه‌های attention ترتیب زمانی را پردازش می‌کنند و بلوک خروجی مدل پیش‌بینی را می‌سازد. بخش ۳.۲ و شکل ۱ مقاله · مقالهٔ اصلی TimesFM

64 daily price observations
  → 2 patches of 32 observations
  → Frozen TimesFM input block
  → 2 tokens, each 1280-dimensional
  → Add the stock's Identity Signature when enabled
  → Shared Generalizer Adapter
  → Frozen TimesFM Transformer and output block
  → Next-session price forecast

Identity Signature؛ یک ردیف برای هر سهم

فرض کن در آموزش سه سهم داریم. شناسهٔ سهم دوم را می‌شود با بردار one-hot به شکل [0, 1, 0] نوشت. ضرب آن در ماتریس امضا، ردیف دوم را برمی‌گرداند. در مدل مقاله هر ردیف ۱۲۸۰ مؤلفه دارد و با گرادیان حاصل از خطای پیش‌بینی یاد گرفته می‌شود.

انتخاب امضای سهم و اضافه‌کردن آن به توکن‌ها

W_sig: S × 1280

e_i = one_hot(i) × Wsig

u(i,j) = x_(i,j) + e_i

اینجا S تعداد سهم‌های آموزشی، i شناسهٔ سهم و j شمارهٔ patch است. یک امضای ثابت به هر دو توکن آن سهم اضافه می‌شود. برای مثال اگر دو توکن فرضی [0.8, -0.2, 0.5] و [0.1, 0.4, -0.3] باشند و امضای سهم [0.2, 0.1, 0.0] باشد، توکن‌ها به [1.0, -0.1, 0.5] و [0.3, 0.5, -0.3] تبدیل می‌شوند. در نتیجه حتی با دو توکن ورودی یکسان، تغییر شناسه می‌تواند نمایش ورودی Transformer را عوض کند.

امضا در زمان استنتاج برای هر سهم ثابت است. داده‌هایی مثل صنعت، ارزش بازار یا خبر روز مستقیماً وارد این بردار نمی‌شوند. یک سهم ناآشنا هم در جدول امضا ردیف آموزش‌دیده‌ای ندارد. بخش ۳.۲ مقاله

Generalizer Adapter؛ یک تبدیل مشترک برای همهٔ سهم‌ها

Adapter برای هر توکن جداگانه یک تبدیل کوچک انجام می‌دهد. ابتدا عرض بردار از ۱۲۸۰ به ۶۴ کاهش پیدا می‌کند. بعد از تابع فعال‌سازی Swish، عرض دوباره به ۱۲۸۰ می‌رسد و نتیجه به ورودی همان توکن اضافه می‌شود.

مسیر residual در Generalizer Adapter

u: 1280

h = Swish(Down(u)) # 1280 → 64

delta = Up(h) # 64 → 1280

output = u + delta

این همان Bottleneck Adapter مقالهٔ قبلی است، با یک انتخاب مشخص دربارهٔ محل اتصال. یک نسخه از Adapter پیش از پشتهٔ Transformer کار می‌کند و وزن‌هایش بین همهٔ سهم‌ها و همهٔ patchها مشترک‌اند. تعامل بین patchها در Transformer اتفاق می‌افتد. چون امضا قبل از تبدیل غیرخطی اضافه می‌شود، روی خود اصلاح Adapter هم اثر دارد. برای نمونه، اجرای Adapter روی x + e_i می‌تواند اصلاح متفاوتی از اجرای آن روی x بسازد. بخش ۳.۲ مقاله

عدد ۲۹۳ هزار از کجا می‌آید؟

اگر برای هر دو تبدیل خطی بایاس حساب کنیم، Adapter با ابعاد مقاله ۱۶۵٬۱۸۴ پارامتر دارد. جدول امضا با فرض ۱۰۰ ردیف ۱۲۸٬۰۰۰ پارامتر دارد. جمع این دو ۲۹۳٬۱۸۴ است که با عدد گرد‌شدهٔ 293K در جدول سازگار است.

حساب تعداد پارامترهای قابل‌آموزش

adapter = (1280 × 64 + 64) + (64 × 1280 + 1280) = 165184

signatures = 100 × 1280 = 128000

total = 165184 + 128000 = 293184

با اعداد گرد‌شدهٔ جدول، Dual Adaptation تقریباً ۰٫۱۴٪ تعداد پارامترهای قابل‌آموزش Full Fine-tuning و حدود ۱۸٪ تعداد پارامترهای LoRA آزمایش را دارد. بدنهٔ TimesFM همچنان برای پیش‌بینی لازم است. در آموزش هم گرادیان باید از بخش‌های بعد از Adapter عبور کند تا به وزن‌های آن برسد، هرچند وزن‌های بدنه به‌روزرسانی نمی‌شوند. بنابراین عدد ۲۹۳ هزار صرفه‌جویی در پارامترهای قابل‌آموزش را نشان می‌دهد. اندازه‌گیری زمان آموزش، حافظهٔ اوج یا تأخیر استنتاج به گزارش جداگانه‌ای نیاز دارد. جدول ۱ مقاله

هنگام آموزش و آزمون چه چیزی فعال است؟

طبق بخش ۳.۳، در آموزش هم Adapter مشترک و هم ردیف‌های جدول امضا یاد می‌گیرند و TimesFM ثابت است. در آزمون سهم آشنا Adapter و امضای همان سهم فعال‌اند. در آزمون سهم ناآشنا فقط Adapter استفاده می‌شود. حذف امضا از نظر مسیر محاسبه معادل این است که به توکن‌ها بردار صفر اضافه کنیم و بعد آن‌ها را به Adapter بدهیم.

اینجا یک تناقض در متن مقاله هست. مقدمه می‌گوید امضا در استنتاج برای هر دو گروه حذف می‌شود، اما بخش ۳.۳ به‌صراحت آن را برای سهم آشنا فعال نگه می‌دارد. توضیح معماری در این نقد بر پروتکل بخش ۳.۳ تکیه دارد. برای تفسیر دقیق عدد 32.36 در ID باید روشن شود جدول با کدام حالت اجرا شده است. مقدمه، صفحهٔ ۱ · بخش ۳.۳، صفحهٔ ۳

آزمایش را چطور چیدند؟

داده‌ها قیمت‌های روزانهٔ Yahoo Finance هستند. مدل‌ها برای مقایسهٔ پیش‌بینی روی سهام S&P 100 آموزش و اعتبارسنجی می‌شوند. سپس در یک بازهٔ زمانی مشترک، یک بار روی سهم‌های آشنا و یک بار روی ۱۰۰ سهم نمونه‌گیری‌شده از S&P 500 پس از کنار گذاشتن اعضای S&P 100 آزمون می‌شوند.

مرحله	بازهٔ زمانی	مجموعهٔ سهام
آموزش	۲۰۰۰ تا ۲۰۲۱	S&P 100
اعتبارسنجی	۲۰۲۲	S&P 100
آزمون ID	۲۰۲۳ تا ۲۰۲۴	سهم‌های آشنای S&P 100
آزمون OOD	۲۰۲۳ تا ۲۰۲۴	۱۰۰ سهم از S&P 500 خارج از S&P 100

معیار ارزیابی میانگین مربعات خطا (MSE) است. اگر خطای دو پیش‌بینی به‌ترتیب ۱ و ۳ واحد باشد، میانگین مربعات خطا برابر (1² + 3²) / 2 = 5 می‌شود. خطاهای بزرگ وزن بیشتری می‌گیرند. مقاله می‌گوید MSE را روی سهم‌های هر مجموعه میانگین می‌گیرد و اعداد نهایی را از پنج اجرا با seedهای مختلف به دست می‌آورد. جزئیات مقیاس قیمت در زمان محاسبه و روش وزن‌دهی به پنجره‌های با تعداد متفاوت برای بازتولید دقیق مهم‌اند. بخش ۴ مقاله

جدول نتایج چه می‌گوید؟

روش	MSE سهام آشنا (ID) ↓	MSE سهام ناآشنا (OOD) ↓	پارامتر قابل‌آموزش
Dual Adaptation	32.36	20.65	293K
LoRA با rank 8	31.68	20.97	1.64M
LayerNorm Tuning	32.58	21.05	77K
Bias Tuning	32.67	21.04	187K
Full Fine-tuning	32.83	20.79	203M
Residual-Only Tuning	33.03	21.02	6.73M
فقط Generalizer	33.16	20.88	165K
فقط Signature	38.64	23.77	128K
PFNet	38.80	24.35	203M
TimesFM بدون تنظیم مالی	39.76	24.12	0

منبع اعداد، جدول ۱ مقاله

• در برابر TimesFM پایه، خطای Dual Adaptation در ID حدود ۱۸٫۶٪ و در OOD حدود ۱۴٫۴٪ کمتر است. تنظیم کامل و چند PEFT دیگر هم بخش زیادی از این فاصله را طی کرده‌اند. بنابراین این مقایسه بیش از هر چیز نشان می‌دهد تنظیم مالی در این آزمایش به مدل پایه کمک کرده است.
• در برابر Full Fine-tuning، فاصلهٔ OOD فقط ۰٫۱۴ واحد MSE یا حدود ۰٫۶۷٪ است. در همان مقایسه، تعداد پارامترهای قابل‌آموزش نزدیک ۶۹۳ برابر کمتر است. این ترکیب نتیجهٔ مهم‌تری از رتبهٔ اول به‌تنهایی است، چون اختلاف شمار پارامترها روشن و اختلاف خطا کوچک است.
• در برابر LoRA، برنده با عوض شدن مجموعهٔ آزمون عوض می‌شود. LoRA در ID به‌اندازهٔ ۰٫۶۸ واحد بهتر است و Dual Adaptation در OOD به‌اندازهٔ ۰٫۳۲ واحد جلو می‌افتد. این جدول به‌تنهایی علت اختلاف را مشخص نمی‌کند. برای نسبت‌دادن آن به بیش‌برازش LoRA باید رفتار روی آموزش، اعتبارسنجی و چند مجموعهٔ آزمون را هم دید.
• وقتی بودجهٔ پارامتر خیلی محدود است، LayerNorm Tuning با ۷۷ هزار پارامتر و Bias Tuning با ۱۸۷ هزار پارامتر گزینه‌های جدی این جدول‌اند. فاصلهٔ OOD آن‌ها با Dual Adaptation به‌ترتیب ۰٫۴۰ و ۰٫۳۹ واحد MSE است.
• PFNet یک TimesFM سازگارشده با داده‌های مالی در مطالعهٔ Fu و همکاران است. عدد OOD آن در این جدول حتی از TimesFM پایه کمی بالاتر است. این عدد را باید در محدودهٔ همین پروتکل خواند. برای تفسیر اختلاف، نسخهٔ وزن‌ها و نحوهٔ آماده‌سازی ورودی PFNet باید مشخص باشند. مطالعهٔ اصلی PFNet

مقایسهٔ درست بین روش‌ها داخل یک ستون انجام می‌شود. پایین‌تر بودن عدد OOD نسبت به ID لزوماً نشان نمی‌دهد پیش‌بینی سهم ناآشنا آسان‌تر است. ترکیب سهم‌ها، مقیاس قیمت‌ها و شدت نوسان در دو مجموعه می‌تواند فرق کند. جدول ۱ مقاله

اگر یکی از دو قطعه را برداریم چه می‌شود؟

مقایسهٔ فقط Generalizer با Dual Adaptation به سؤال اصلی مقاله نزدیک‌تر است. در آزمون OOD هر دو مسیر، طبق پروتکل اعلام‌شده، بدون امضای فعال پیش‌بینی می‌کنند. اما یکی از Adapterها همراه امضا آموزش دیده و دیگری از ابتدا بدون آن. خطا از 20.88 به 20.65 می‌رسد. پس در این آزمایش، حضور امضا هنگام آموزش با ۰٫۲۳ واحد MSE کمتر روی سهم‌های ناآشنا همراه بوده است. این مقایسه اثر کل دستور آموزش دوم را می‌سنجد. برای اینکه سهم اطلاعات واقعی هویت را جدا کنیم، یک کنترل با ظرفیت آموزشی مشابه و شناسه‌های تصادفی در سطح پنجره لازم است.

در ID، اضافه‌شدن Signature به Generalizer با افت خطا از 33.16 به 32.36 همراه است. اگر بخش ۳.۳ را مبنا بگیریم، این تفاوت می‌تواند حاصل یادگیری مشترک در آموزش، استفاده از امضا در آزمون یا ترکیب هر دو باشد. آزمون همان مدل آموزش‌دیده، یک بار با امضا و یک بار با بردار صفر، می‌توانست اثر زمان استنتاج را روشن کند.

ردیف فقط Signature یک سؤال بی‌پاسخ دارد. اگر در این مدل Adapter وجود نداشته باشد و برای سهم ناآشنا امضا هم حذف شود، با فرض ورودی، checkpoint و مسیر ارزیابی یکسان، مدل باید به همان پیش‌بینی TimesFM ثابت برسد. اما جدول 23.77 را برای فقط Signature و 24.12 را برای مدل پایه ثبت کرده است. مقاله توضیح کافی برای بازسازی این ردیف نمی‌دهد. تا وقتی مسیر دقیق OOD این مدل روشن نشود، مقایسهٔ آن با مدل پایه تفسیر قطعی ندارد. بخش ۳.۳ · جدول ۱

آیا شباهت وزن‌ها یعنی Adapter واقعاً چیز مشترکی یاد گرفته؟

نویسندگان وزن‌های نهایی Adapter را از چند اجرای مستقل با شباهت کسینوسی مقایسه می‌کنند. این معیار زاویهٔ دو بردار را می‌سنجد. مثلاً [1, 2] و [10, 20] در یک جهت‌اند و شباهت کسینوسی‌شان ۱ است، با اینکه اندازهٔ وزن‌ها متفاوت است.

مقایسهٔ وزن‌های نهایی Adapter	بدون Signature	با Signature
پایداری بین اجراهای S&P 100	۹۱٪	۹۷٪
شباهت بین Adapterهای آموزش‌دیده روی دو گروه سهام	۸۸٪	۹۰٪

برای ردیف اول، مقاله اجراهای مستقل روی S&P 100 را با هم مقایسه می‌کند. برای ردیف دوم، Adapterهایی جداگانه روی دو گروه سهام آموزش می‌دهد و پنج اجرای هر گروه را با پنج اجرای گروه دیگر مقایسه می‌کند. این ۲۵ مقایسهٔ بین‌گروهی مربوط به تحلیل وزن‌هاست. در آزمون پیش‌بینی OOD جدول اول، مدل از تنظیم مالی روی S&P 100 به سهم‌های کنارگذاشته‌شده منتقل می‌شود. بخش ۳.۴ مقاله · جدول ۲

این اعداد نشان می‌دهند وزن‌های نهایی در حضور امضا از نظر این معیار جهت‌های نزدیک‌تری دارند. برای رسیدن از این مشاهده به ادعای «جداشدن الگوهای عمومی از الگوهای مخصوص سهم»، شواهد بیشتری لازم است. ترتیب نورون‌های bottleneck را می‌توان در لایهٔ پایین‌بر و لایهٔ بالابر به‌صورت سازگار جابه‌جا کرد و همان تابع را گرفت، در حالی که شباهت ظاهری وزن‌ها عوض می‌شود. اگر اجراها از مقداردهی نزدیک شروع شده باشند، مقایسهٔ بردار تغییر وزن با وزن اولیه هم اهمیت دارد. مقایسهٔ خروجی Adapterها روی ورودی‌های یکسان و توزیع خطای هر اجرا مستقیماً نشان می‌داد که این شباهت وزنی چقدر به رفتار مدل مربوط است.

نقد آزمایش؛ کدام نتیجه را می‌شود تعمیم داد؟

سهم تازه با بازار تازه فرق دارد

کنارگذاشتن سهم‌ها و جداکردن زمان آزمون دو انتخاب درست‌اند. این طراحی مدل را وادار می‌کند روی تاریخ‌های بعدی و در OOD روی نمادهایی متفاوت امتحان پس بدهد. با این حال هر دو گروه از بازار سهام آمریکا و یک دورهٔ آزمون می‌آیند. شوک‌های کلان و بخشی از ترکیب صنعتی می‌تواند مشترک باشد. انتقال به بورس دیگر، دارایی‌های دیگر، دادهٔ درون‌روزی یا حتی رژیم زمانی متفاوت در این آزمایش سنجیده نشده است. برای سنجش حساسیت نتیجه به انتخاب همین ۱۰۰ سهم، تکرار آزمایش با چند نمونهٔ مستقل یا کنارگذاشتن یک صنعت کامل کمک می‌کند. بخش ۴ مقاله

مدل چقدر از «قیمت فردا همان قیمت امروز است» جلوتر است؟

در پیش‌بینی یک‌روزهٔ سطح قیمت، ساده‌ترین خط پایه این است که فردا را برابر آخرین قیمت مشاهده‌شده بگیریم. اگر امروز قیمت ۱۰۰ و فردا ۱۰۱ باشد، همین پیش‌بینی ساده فقط یک واحد خطا دارد. ممکن است مدل دیگری فردا را ۱۰۰٫۵ پیش‌بینی کند و MSE کمتری بگیرد، اما برای فهم ارزش این بهبود باید هر دو را روی همان سهم‌ها و تاریخ‌ها بسنجیم.

جدول مقاله خط پایهٔ آخرین قیمت را گزارش نمی‌کند. بنابراین می‌توان روش‌های سازگارکردن TimesFM را با هم مقایسه کرد، اما میزان برتری آن‌ها نسبت به این خط پایه معلوم نیست. برای سؤال‌های مربوط به بازده، جهت حرکت یا کاربرد معاملاتی، باید هدف و معیار جداگانه تعریف شود. MSE قیمت، اثر هزینهٔ معامله، نقدشوندگی و اندازهٔ موقعیت را اندازه نمی‌گیرد. جدول ۱ مقاله

پنج seed برای فهم اختلاف ۰٫۱۴ کافی است؟

تکرار با پنج seed قدم مثبتی است، ولی جدول فقط میانگین‌ها را دارد. نمی‌دانیم Dual Adaptation در هر پنج اجرا جلو بوده یا نتیجه به یکی دو اجرا وابسته است. seedهای متعدد هم به‌تنهایی تغییر ترکیب سهام و دورهٔ بازار را پوشش نمی‌دهند. برای مقایسهٔ 20.65 با 20.79، اختلاف خطا برای هر سهم و هر تاریخ، نتایج هر seed و بازهٔ اطمینان مقایسهٔ جفت‌شده لازم‌اند. در محاسبهٔ عدم‌قطعیت هم باید وابستگی روزهای مجاور و شوک‌های مشترک میان سهم‌ها را در نظر گرفت. بخش ۴ و جدول ۱ مقاله

فهرست سهم‌ها و نوع قیمت بخشی از خود آزمایش‌اند

عضویت شاخص‌ها در طول زمان تغییر می‌کند. اگر فهرست اعضای یک تاریخ متأخر را به کل تاریخ گذشته تعمیم بدهیم، سهامی که حذف شده‌اند یا دیگر معامله نمی‌شوند ممکن است از نمونه جا بمانند. مقاله منبع و بازه‌ها را مشخص می‌کند، اما تاریخ مبنای عضویت، فهرست دقیق نمادها و نحوهٔ برخورد با نمادهای حذف‌شده را روشن نمی‌کند. نوع قیمت، برخورد با تجزیهٔ سهام و سود نقدی، روزهای بدون داده و اینکه نرمال‌سازی برای هر پنجره با چه داده‌ای انجام می‌شود هم روی مقایسه اثر دارند. این‌ها نقاطی برای بررسی بازتولیدند. از متن موجود نمی‌شود دربارهٔ وقوع یا اندازهٔ سوگیری حکم داد. بخش ۴ مقاله

وضعیت کد و مسیر بازتولید

در PDF مقاله و فهرست رسمی کارگاه، لینکی به کد آزمایش‌ها یا وزن‌های آموزش‌دیدهٔ Dual Adaptation معرفی نشده است. کد و وزن‌های TimesFM پایه در منابع گوگل در دسترس‌اند. با توضیح معماری می‌شود یک پیاده‌سازی مستقل ساخت، اما بازتولید اعداد مقاله به جزئیات داده، آموزش و ارزیابی وابسته است. برای نمونه، مدل عمومی ۲۰۰میلیونی TimesFM از نظر اندازه و ابعاد با توضیح مقاله سازگار است، ولی شناسهٔ دقیق checkpoint و نسخهٔ پیاده‌سازی آزمایش مشخص نشده‌اند. متن مقاله · صفحهٔ کارگاه · مخزن TimesFM · وزن‌های TimesFM 1.0 200M

اگر بخواهیم نتیجه را در یک مطالعهٔ مستقل بررسی کنیم، چهار تصمیم مستقیماً روی اعتبار مقایسه اثر دارند.

1. بازسازی داده و خط پایه. فهرست تاریخ‌دار نمادها، تعریف قیمت و قواعد پنجره‌سازی ثبت شوند. هر پنجره فقط از دادهٔ در دسترس تا زمان پیش‌بینی استفاده کند. TimesFM ثابت و پیش‌بینی آخرین قیمت روی همان پنجره‌ها امتیاز بگیرند.
2. ثبت شرایط آموزش. نسخهٔ مدل، محل دقیق اتصال Adapter، انتخاب خروجی گام اول، مقداردهی اولیه، تابع زیان، نرخ یادگیری، اندازهٔ batch، معیار توقف و تنظیمات LoRA ثبت شوند. MSE گزارش‌شده معیار ارزیابی است و از وجود آن در جدول نمی‌شود جزئیات زیان آموزش را استنباط کرد.
3. آزمون مستقیم امضا. مدل مشترک را برای سهم‌های آشنا یک بار با امضا و یک بار با بردار صفر ارزیابی کنیم. در OOD، مدل آموزش‌دیده با امضا و مدل فقط Generalizer را با ورودی یکسان مقایسه کنیم. برای ردیف فقط Signature هم با حذف امضا بررسی کنیم که مسیر واقعاً خروجی TimesFM ثابت را می‌دهد.
4. گزارش پراکندگی و هزینه. خطای هر seed و هر سهم، چند ترکیب OOD و تفاوت جفت‌شده با خطوط پایه ثبت شوند. اندازهٔ checkpoint افزوده، زمان آموزش، حافظهٔ اوج و تأخیر پیش‌بینی در کنار شمار پارامترها گزارش شوند.

جمع‌بندی

جذاب‌ترین انتخاب Dual Adaptation محل سازگاری است. یک تبدیل کوچک پیش از Transformer برای کل مجموعهٔ سهام یاد می‌گیریم و در همان نقطه یک بردار اختیاری برای هویت هر سهم داریم. نتیجهٔ عملی معماری این است که می‌توانیم روی سهم تازه، با همان TimesFM و همان Adapter، مستقیماً از پنجرهٔ قیمت پیش‌بینی بگیریم.

در داده‌های گزارش‌شده، این انتخاب با حدود ۲۹۳ هزار پارامتر قابل‌آموزش به کمترین میانگین MSE سهام ناآشنا رسید و در سهام آشنا پشت LoRA قرار گرفت. نزدیک‌بودن خطای آن به Full Fine-tuning، با اختلاف بزرگ تعداد پارامترهای قابل‌آموزش، دلیل خوبی برای بررسی این معماری است. برای قضاوت دربارهٔ مزیت خود Identity Signature، تعیین حالت استفاده از امضا در ID، توضیح ردیف فقط Signature در OOD و تکرار مقایسه روی گروه‌های دیگری از سهام، سه قدم تعیین‌کننده‌اند. متن و جداول مقاله

منابع

1. فاطمه چیت‌ساز و سامان هراتی‌زاده، مقالهٔ مورد بررسی در کارگاه Foundation Models for Structured Data، سال ۲۰۲۵. متن مقاله · فهرست رسمی کارگاه
2. Abhimanyu Das و همکاران، مقالهٔ اصلی TimesFM و مشخصات معماری مدل پایه، ICML 2024. A decoder-only foundation model for time-series forecasting
3. Edward J. Hu و همکاران، مقالهٔ معرفی سازگاری کم‌رتبه، ICLR 2022. LoRA: Low-Rank Adaptation of Large Language Models
4. Xinghong Fu، Masanori Hirano و Kentaro Imajo، مطالعهٔ تنظیم TimesFM روی داده‌های مالی. Financial Fine-tuning a Large Time Series Model