今天仔细看了一下OpenAI API的收费模式,token已经成为硬通货,会出现各种中间商和新的商业模式。
OpenAI根据API请求的输入和输出长度(token数)来收费,一个token平均大概是4个字母和0.75个单词(图1-2)。
每种模型的价格不一样,使用基础的GPT-4,每1千个输入token收费3美分,输出1千个token收费6美分(图3)。用户还可以通过指定最大输出长度来控制成本。
另外,OpenAI还提供有50%价格折扣的批处理请求,24小时才能返回结果(图4)。
这样的价格模式下,用户想要优化成本,首先需要优化请求,以更短的长度获得高质量的答复。提示词优化工程因此应运而生,帮助用户优化各种场景下的查询。
输出方面,中间商和”二道贩子”可以通过OpenAI生成某个领域常用的知识和数据库,再提供相应的查询服务给用户。还可以利用OpenAI的批处理模式,批发转零售,通过提供实时查询和价格差来盈利。
总之,在token成为生成式AI时代硬通货的情况下,肯定会涌现出各种新的服务和商业模式。