努力赚钱
将来的你一定会感谢现在努力的自己!

为什么 GPT-3.5(大部分情况)比 Llama 2 便宜

Spacemesh-浏览器

为什么 GPT-3.5(大部分情况)比 Llama 2 便宜

Llama-2-70B是gpt-3.5的一种诱人的替代选择,但如果寻找廉价的语言模型,偏离OpenAI的API可能不值得。在考虑价格和延迟时,不应该使用Llama-2来处理重负载的工作,而是适用于以提示为主的任务,例如分类。当工作负载没有提示令牌时,使用Llama-2可能也是有意义的(虽然不直观,但稍后会解释)。在其他情况下,gpt-3.5应该更便宜更快。需要注意的是,使用Llama而不是gpt-3.5的一个原因是微调,但在本文中,我们只探讨成本和延迟。我没有将Llama-2与GPT-4进行比较,因为它更接近3.5级模型。

4b64f1b77e7043fda2cf2dc3da1ba045_2076989541495611392
赞(0) 打赏
未经允许不得转载:我爱收益 » 为什么 GPT-3.5(大部分情况)比 Llama 2 便宜

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏