МОДЕЛЬ ПРОГНОЗУВАННЯ ЧАСОВИХ РЯДІВ ДЛЯ ВИРІШЕННЯ ПРОБЛЕМИ "ХОЛОДНОГО СТАРТУ" ЗА ДОПОМОГОЮ TEMPORAL FUSION TRANSFORMER (Computer systems and information technologies, 2024)
Прогнозування часових рядів є важливим інструментом у багатьох бізнесах. Воно може варіюватися від ефективного розподілу ресурсів для веб-трафіку, прогнозування потреб пацієнтів для персоналу, до прогнозування продажів продукції компанії. Особливий випадок використання, відомий як прогнозування "холодного старту", передбачає створення прогнозів для часових рядів, які мають мало або зовсім не мають історичних даних, як-от новий продукт, що лише виходить на роздрібний ринок. Ключове припущення прогнозування "холодного старту" полягає в тому, що товари з подібними характеристиками повинні мати схожі траєкторії часових рядів. У таких сценаріях традиційні моделі прогнозування, які сильно залежать від минулих спостережень, можуть зіткнутися з викликами, що вимагає розробки інноваційних підходів, які ефективно прогнозують у відсутності значного історичного набору даних.У цій статті була застосована архітектура нейронної мережі temporal fusion transformer для розв'язання завдання прогнозування часових рядів з "холодним стартом". Моделювання методу базувалося на використанні набору даних з відкритого репозиторію. Після процедур попередньої обробки, набір даних містив близько 370 часових рядів, кожен з яких мав різну довжину серії та одну категоріальну ознаку. Категоріальна ознака мала лише 4 типи різних значень. Для тренування моделі було проведено пошук оптимальних гіперпараметрів, таких як: кількість голів уваги, швидкість навчання, відсоток викидання та розмір прихованого шару. Модель показала досить хороші результати на цьому завданні. Для порівняння моделей були обрані такі метрики, як MAE, RMSE, SMAPE. Як видно з порівняння з такими популярними моделями, як DeepAR та LSTM, запропонований підхід продемонстрував найменшу помилку прогнозування. Єдиним недоліком є те, що він може мати більше проблем з аномаліями в часових рядах, ніж DeepAR. Але в той же час модель все ще забезпечує інтерпретованість результатів.
Keywords: часові ряди; прогнозування часових рядів з холодним стартом; трансформер; темпоральний фузійний трансформер