BTC і ETH часто коливаються в ціні.

Виявив одну річ — одну і ту саму проблему з прогнозуванням інколи аналізую через AI два рази, але результати не завжди збігаються.
Перевірив логи викликів — проблема була в мені самому.
Раніше маршрутизував усі запити через найпотужнішу модель, щоб заощадити час та отримати стійкіший результат.
Це призвело до того, що під час високої частоти запитів затримки зросли, стабільність результатів знизилась, а витрати на виклики помітно збільшились.
Такі потужні моделі як GPT і Gemini коштують дорого при частих викликах — одноденні витрати непокриві, а прибуток часто їх не перекриває.
Переробив логіку на багаторівневу структуру — прості запити обробляю легкими моделями, складні задачі передаю потужним моделям.
Але ручне управління цими правилами розподілу вимагає багато зусиль, налагодження займе більше часу ніж сама торгівля.
Почав використовувати єдиний вхідний пункт моделей, який автоматично розподіляє завдання за складністю.
GateRouter від Gate дозволяє одним API викликом використовувати всі моделі — це й є структура мультимодельної маршрутизації, яка автоматично вибирає оптимальну модель за потребою.
Результати стали стабільнішими, затримки скоротились, загальні витрати значно знизились.
Замість того щоб мучитись з вибором моделі,
краще дати системі змогу саморобити вибір моделі.