BTC e ETH apresentam flutuações frequentes na cotação.


Descobri um problema: para a mesma questão de mercado, duas análises consecutivas com IA produziam conclusões ligeiramente diferentes.
Ao revisar os registos de chamadas, identifiquei que o problema era meu.
Anteriormente, canalizava todas as solicitações para o modelo mais potente, para poupar esforços e acreditando na maior estabilidade.
Isto causava latência elevada em períodos de alta frequência, redução na estabilidade dos resultados e aumento significativo dos custos de chamada.
Modelos potentes como GPT e Gemini têm custos diários consideráveis em chamadas frequentes, e por vezes os ganhos não cobrem os custos.
Reorganizei a lógica numa estrutura em camadas: modelos leves para questões simples, modelos potentes apenas para questões complexas.
A manutenção manual desta regra de distribuição consumia muita energia, e o tempo de ajuste acabava por ultrapassar o tempo dedicado à negociação.
Comecei a utilizar uma entrada de modelo unificada, deixando o sistema fazer a distribuição automática com base na complexidade da tarefa.
O GateRouter lançado pela Gate permite uma chamada API para todos os modelos, funcionando como uma estrutura de encaminhamento multi-modelo que selecciona automaticamente o modelo mais adequado conforme necessário.
Os resultados são mais estáveis, a latência diminuiu e o custo global reduz-se significativamente.
Preocupar-me em escolher qual modelo é desnecessário.
É preferível deixar o sistema efectuar a selecção de modelos automaticamente.
BTC1,36%
ETH3,11%
Ver original
post-image
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Marcar