价格骤降96%~97%！OpenAI“杀入”小模型
作者:时尚 来源:娱乐 浏览: 【大中小】 发布时间:2024-10-06 06:45:13评论数:
每经记者 蔡鼎 每经编辑 兰素英
当地时间7月18日，OpenAI正式推出新一代入门级别人工智能模型“GPT-4o mini”，骤降称这款新模型是小模型“功能最强、性价比最高的杀入小参数模型”，旨在服务更广泛的价格客户群体。这也意味着开发人员如今有了一种轻量级且廉价的骤降工具，让他们能够以更低的小模型成本构建AI应用程序。
外媒报道中称，杀入目前，价格GPT-4o mini模型的骤降应用程序编程接口支持文本和视觉，未来将支持文本、小模型图像、杀入视频和音频的价格输入和输出。
更重要的骤降是，最新的GPT-4o mini比GPT-4o便宜了96% ~97%，比起GPT-3.5 Turbo也要便宜60%~70%。正因如此，随着GPT-4o mini上架，GPT-3.5Turbo的历史使命到此结束。OpenAI还表示，GPT-4o mini是首个使用其全新安全策略“指令层级”的AI模型。
对于为何未能更早推出“小而精”的AI模型，OpenAI的API产品负责人Olivier Godement表示，这纯粹是优先级的问题，随着时间的推移，OpenAI注意到开发人员越来越渴望使用较小的模型，这也让公司决定投入资源开发GPT-4o mini。
同级别价位最低
据OpenAI，GPT- 4o mini的API价格将会是15美分/100万Tokens输入，以及60美分/100万Tokens输出。上下文窗口依然是12.8万个Tokens，知识截至日期为2023年10月。公司拒绝透露新模型的参数量大小，仅表示与市面上类似的AI小模型处于同一个级别。
作为对比，GPT-4o的百万Tokens输入和输出价格分别是5美元和15美元，之前的入门款模型GPT-3.5 Turbo定价分别是0.5美元和1.5美元。这就是说，最新的“迷你模型”的价格比GPT-4o便宜了96%~97%，比起GPT-3.5 Turbo也要便宜60%~70%。正因如此，随着GPT-4o mini上架，GPT-3.5 Turbo的历史使命到此结束。
根据Artificial Analysis的统计，GPT-4o mini已经达到美国AI公司主流“小模型”里面价格最低的位置，比起Anthropic、谷歌的同类型竞品都要便宜一截。
OpenAI称，最新的GPT-4o mini从18日起向ChatGPT的免费用户以及ChatGPT Plus和ChatGPT Team的订阅用户开放，并将在其后一周向ChatGPT Enterprise用户开放。GPT-4o mini将取代ChatGPT中的旧模型GPT-3.5 Turbo。
OpenAI 表 示 ，GPT- 4o mini目前在聊天偏好上的表现优于GPT-4，在大规模多任务语言理解测试（MMLU）中的得分为82%。MMLU是一个文本智能和推理基准，用于评估语言模型的能力。MMLU分数越高，越能表明该模型可以更好地理解和使用各种领域的语言，从而增强现实世界的应用。
而在这项测试中，同为小参数模型的谷歌Gemini Flash得分为77.9%，Claude Haiku得分为73.8%。在更大参数的模型中，GPT-3.5在这项测试中的得分为70%，GPT-4o得分为88.7%，谷歌Gemini Ultra据称取得了有史以来最高分（90%）。
值得注意的是，研究人员对像MMLU这样的基准测试持谨慎态度，因为不同公司的管理方式略有不同，因此不同模型的得分难以比较。还有一个问题是，模型的数据库中可能有这些答案，也就是说可以作弊，而且通常没有第三方评估人员参与这个过程。
入局小模型的背后
外媒报道中称，GPT- 4o mini的推出也是OpenAI推动“多模态”（multimodality）技术发展努力的一部分，多模态指的是在一个大模型中提供多种类型的AI生成媒体，如文本、图像、音频和视频。
不仅如此，这一全新小模型也承载着帮助OpenAI走入更广泛的客户群体的期望。OpenAI在今年早些时候的最新一轮融资过后，估值已经超过800亿美元。虽然是全球生成式AI领域估值最高的“独角兽”，但OpenAI仍面临压力：一方面要保持其在生成式AI市场的领先地位；另一方面，由于其在AI基础设施上投入了大量资金以构建和训练模型，因此还要想方设法盈利。
GPT-4o mini为开发人员提供一种轻量级且廉价的工具，让他们能够开发出所有的应用程序和工具。相对而言，GPT-4这种更大、更昂贵的模型是他们无法负担得起的。此前，许多开发人员选择转向Claude 3 Haiku或Gemini 1.5 Flash。
而且，GPT-4o mini是首个使用OpenAI全新安全策略“指令层级”的AI模型。这种方法的目的是使AI系统优先处理某些指令——例如来自公司的指令。
OpenAI的API产品负责人Olivier Godement在接受媒体采访时解释了为何该公司未能更早推出“小而精”的AI模型，他说，这纯粹是优先级的问题，因为OpenAI专注于创建更大、更好的模型，如GPT-4，这需要大量的人力和计算资源。随着时间的推移，OpenAI注意到开发人员越来越渴望使用较小的模型，因此公司认为现在是投入资源开发GPT-4o mini的时机。
“我们的使命是使用最前沿技术、构建最强大、最有用的应用程序，我们当然希望继续做前沿模型，推动技术进步。”OpenAI的API产品负责人Olivier Godement在接受媒体采访时说：“但我们也希望拥有最好的小模型，我认为它会非常受欢迎。”
“我认为GPT-4o mini真正体现了OpenAI让AI更加普及的使命。如果我们希望AI惠及世界的每一个角落，每一个行业，每一个应用，我们必须让AI更加实惠。”Godement说道。
目前，金融科技初创公司Ramp已经使用GPT-4o mini构建了一个工具，可以提取收据上的费用数据。用户无须费力地浏览文本框，只需上传一张收据的图片，该模型就会进行分类。
电子邮件客户端Superhuman也对GPT-4o mini进行了测试，并用它创建了一个自动建议邮件回复的功能。