OpenAI推出更小更便宜的 AI 模型 GPT-4o mini

推荐使用GPT中文版,国内可直接访问：https://ai.gpt86.top 

OpenAI 周四推出了其最新的小型 AI 模型 GPT-4o mini。该公司表示，GPT-4o mini比 OpenAI 目前的尖端 AI 模型更便宜、更快速，从今天开始面向开发者发布，并通过 ChatGPT 网页和移动应用面向消费者发布。企业用户将于下周获得访问权限。

该公司表示，GPT-4o mini 在涉及文本和视觉的推理任务上的表现优于业界领先的小型 AI 模型。随着小型 AI 模型的改进，它们因速度快、成本低廉而越来越受开发人员的欢迎，而大型模型则不然，例如GPT-4 Omni或Claude 3.5 Sonnet。对于开发人员可能反复调用 AI 模型执行的大量简单任务，它们是一个有用的选择。

GPT-4o mini 将取代 GPT-3.5 Turbo，成为 OpenAI 提供的最小模型。该公司声称，根据 Artificial Analysis 的数据，其最新的 AI 模型在衡量推理能力的基准 MMLU 上的得分为 82%，而 Gemini 1.5 Flash 的得分为 79%，Claude 3 Haiku 的得分为 75%。在衡量数学推理能力的 MGSM 上，GPT-4o mini 的得分为 87%，而 Flash 的得分为 78%，Haiku 的得分为 72%。

GPT-4o-mini 的优势

• GPT-4o mini 在 API 和游乐场中支持文本和视觉
• 未来将有文本、图像、视频和音频的输入和输出。
• 该模型具有 128K 个令牌的上下文窗口和截至 2023 年 10 月的知识。
• 该模型确实具有多语言功能
• 增强推理速度
• 推理速度和成本的结合使该模型成为对模型进行多次并行调用的代理应用程序的理想选择。
• 针对 GPT-4o mini 的微调即将推出。
• 成本：每百万输入令牌 15 美分，每百万输出令牌 60 美分。

注意事项

• 使用开源 SLM，令人兴奋的部分是在本地运行模型并通过本地推理完全控制模型。
• 就 OpenAI 而言，由于其商业托管 API 模型，因此这并不适用。
• 因此，OpenAI 注重速度、成本和能力。
• 并且也顺应了小型号的潮流。
• 有一些功能强大的基于文本的 SLM 是开源的，例如 Orca-2、Phi3、TynyLlama 等等。
• GPT-4o-mini 的差异化因素在于成本、速度、能力和可用模式。

为什么要使用小型语言模型？

• 自然语言生成
• 常识推理
• 对话和会话情境管理
• 自然语言理解
• 处理非结构化输入数据
• 知识密集型

小型语言模型有几个优点

参考：

[1] https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/