gpt4o-mini是给agent开发者的超级福利

GPT-4o2024-07-19393

先做个广告:如需代注册GPT4或充值 GPT4.0会员(plus),请添加站长微信:gptchongzhi

gpt4o-mini是给agent开发者的超级福利

省流:gpt4o-mini是第一个可以稳定按照要求json格式输出的10B级模型,可以极大地降低ai agent开发的成本,可以在多个环节平替gpt4o

推荐使用GPT中文版,国内可直接访问:https://ai.gpt86.top 

gpt4o-mini

今天早上看到openai发了gpt4o-mini,网上的评论以负面居多,比如

“说好的GPT5呢”

“你别管回答得准不准,你就说快不快吧”

“只能替代gpt3.5,离gpt4差得有点远”

我拿我常用的测试的prompt测了一下,确实模型的智商不太高,在各种榜单的高分有刷榜的嫌疑,但是我留意到OPENAI的博客中专门提到了它的function calling(函数调用)能力很强,而且价格极其便宜,是满血gpt4o的30分之一,这一下吸引了我的注意:

如果gpt4o-mini真的有宣称那样的json输出能力,它是对AI应用开发者的最大利好!

为什么需要json输出能力

现在靠谱的AI Agent基本都会涉及到Function Calling多Agent协同这两种模式,也就是吴恩达那个著名的AI Agent talk提到的第2点和第4点。

一旦涉及到这两种模式,大模型按照要求的json格式输出的能力是至关重要的。对于普通的文本对话任务来说,模型不按照要求输出就只是体验差,效果差而已,但是对于这两种工作流,如果输出结果不符合格式,就没办法转化成正确的代码/数据,会导致整个工作流无法完成,根本没有输出结果

因为我们自己的产品涉及到这种复杂的Agent工作流,对json格式输出的要求很高,最开始就是拿gpt4去开发的。但是gpt4o,claude opus这些顶级模型实在是太贵了,跑一次test就要好几块钱,我们尝试过各种小模型,从gpt3.5到claude haiku到国内开源闭源的各种便宜模型,全都没法稳定输出符合要求的json,导致整个工作流作废。所以我们只能一直拿gpt4o去跑光是前后端联调就花了大几百块的token费

超出预期的json输出能力

今天gpt4o-mini出来之后赶紧让我们算法同学拿我们产品测试了一下,效果非常好,目前还没遇到输出不符合格式的现象。

因此我们决定在两个地方用mini替代掉满血gpt4o:

1. 简单任务(如总结,海底捞针这种抽信息)直接完全替代4o;

2. 复杂任务(如推理、决策)可以在离线开发和测试阶段替代4o;

用gpt4o-mini之后,我们一个月光是开发成本就要降大几千块,更不用提mini的速度可以带来产品体验和以及迭代效率上的提升了,gpt4o-mini真是对我们ai应用开发者的最大利好!

一个有趣的观察

顺便一提,今天还看到一个有意思的观点:用gpt4o-mini生成一个blog的token成本约为0.05美分,而互联网上一次页面曝光广告的收益约为0.02美分,也就是说只要这篇blog被曝光三次,收益就可以打正了,因为gpt4o-mini生成这种内容的能力非常强,所以我们正式来到了ai内容生成的拐点,互联网以后将大量充斥gpt4o-mini生成的文字:)

具体的分析可以看这篇blog(https://batchmon.com/blog/ai-cheaper-than-ads/)。


chatgpt plus(GPT4)代充值

本文链接:https://gpt-4o.net/chatgpt/511.html

文字转视频用chatgpt4.0怎么续费chatgpt开通后自动续费吗chatgpt续费chatgpt账号续费chatgpt会员续费chatgpt api续费chatgpt怎么下载chatgpt 使用免费吗chatgpt哪里可以下载

相关文章

网友评论