OPENAI颠覆性创新:异步批量处理,轻松应对数据洪流!
【HowToTech科技】4月17日消息,OPENAI今日发布了一项新的API,专为需要处理大量内容的开发者设计。该批量处理API允许开发者一次性提交大量数据,并在24小时内接收处理结果,从而极大地提升了处理效率。
这一新功能的推出,不仅为开发者带来了便利,同时也对OPENAI自身运营有所裨益。据悉,OPENAI可以在服务器非高峰时段处理这些请求,更有效地平衡服务器资源,节约成本。为此,OPENAI为使用这项异步任务API的开发者提供了半价优惠,他们只需支付原价的50%。
据HowToTech科技了解,当需要对大量的文本、摘要、翻译或图像进行分类整理时,开发者可以利用这个新API进行批量处理。尽管结果并非实时返回,但对于对及时性要求不高的任务来说,这无疑大大提升了工作效率。此外,除了享受半价折扣,开发者还能获得更高的请求速率,即每分钟可以提交更多的请求。
使用这项新服务时,开发者需要通过JSONL文件格式进行数据传输。具体来说,他们需要将所有需要处理的请求集中在一个JSONL文件中,然后通过batch参数上传到服务器。
OPENAI已经在API文档中详细说明了如何使用这项新服务,包括如何创建批处理、设置请求正文、以及结果检索等步骤。有需求的开发者可以访问OPENAI的官方网站查看具体的调用示例。
延伸阅读:
OpenAI 测试长输出版 GPT-4o:单次输出达64K tokens
【HowToTech科技】8月1日消息,OpenAI在7月29日透露,他们正在对一款名为GPT-4o Long Outp...
ISC.AI2024数字安全峰会:360、华为、微软等共话安全+AI新挑战
7月31日,ISC.AI 2024数字安全峰会在北京国家会中心顺利召开。峰会以“打造安全大模型,引领安全行业革命”为主题...
ISC.AI2024开幕 周鸿祎发布国内首个免费安全大模型
“把大模型拉下神坛就要把免费贯彻到底,今天我在行业里第一个宣布安全大模型免费。”7月31日,ISC.AI2024第十二届...
实时对话更自然,OpenAI 向部分付费订阅用户开放 GPT-4o 语音模式
【HowToTech科技】7月31日消息,OpenAI于当地时间30日宣布,即日起GPT-4o的语音模式(注:Alpha...