开发者如何掘金 AI 2.0？零一万物上线 Yi 大模型 API 开放平台

　　2024 年初推出的 Sora 让 AIGC 与大模型业界持续火爆。一方面,基础大模型 Top 厂商在持续研发长文本、视频、多模态等模型核心技术实力,在另一面,更多开发者在加入大模型落地与 AI 2.0 应用开发赛道。在 2023 年底 CSDN 发起的 AI 2.0 开发者生态调研中,问卷结果显示开发者群体认为“深耕模型技术”与“挖掘应用场景”的机遇和前景同等重要。

　　AI 2.0黑马——零一万物Yi大模型

　　长文本突破200K、多模态增强场景支持

　　由国际 AI 专家李开复博士所带队孵化的 AI 2.0 公司零一万物,目标是全球大模型第一梯队,攻坚基础大模型与 AI 2.0 核心技术,发布了 Yi 系列开源大模型。在当时斯坦福、伯克利等全球多项权威评测榜单中,Yi 大模型均表现优异,性能直追 GPT-4。目前 Yi 大模型已实现 200K 上下文(可处理约 30 万中英文字符)的长文本推理实力,以及增强支持多种应用场景的多模态模型。

　　大模型的长文本推理被看作通用人工智能 AGI 非常重要的核心实力之一。零一万物 Yi 大模型的 200K 上下文推理能力,适合用于多篇文档内容理解、海量数据分析挖掘和跨领域知识融合,为各行业 AI 2.0 应用提供极大的便利。例如,金融分析师可以使用 Yi 大模型快速阅读报告并预测市场趋势、律师可用它精准解读法律条文、科研人员可用它高效提取论文要点、文学爱好者可以用它快速掌握作品精髓等,应用场景非常广泛。

　　另外零一万物的 Yi-34B-Chat-200K 大模型经过优化,大海捞针评测的性能可提升至 99.8%。“大海捞针”测试的设计是:将一个目标句子(针)放进一个随机文档语料库(大海),然后提出一个只能使用“针”(目标句子)中的信息才能回答的问题来测试模型的回忆能力。在“大海捞针”测试中,Yi-34B-Chat-200K 的性能提高了 10.5%,从 89.3%提升到 99.8%。

　　星云爱店是知识探索服务先行者,包含2C的“学术科研助手”,2B的儿童心理健康诊疗、青少年科学素养培养三大领域。

　　星云爱店CTO大董和团队参加了零一万物API邀测,他在文献综述的实际应用中,采用其他大模型推理生成的被拒率为 40%(下图),而切换到 Yi 大模型,任务未发生拒绝执行。

　　星云爱店测试demo显示,使用某大模型时,被拒率 40%

　　采用 Yi 大模型执行复杂任务,拒绝任务率低、完成度好

　　在另一个 18 万字报告集合的阅读分析中,Yi 大模型未遗漏任务:

　　星云爱店采用其他模型遗漏未指出,Yi 大模型完成 prompt 任务

　　零一万物开发的多模态模型 Yi-VL-Plus,可支持文本、视觉多模态输入,面向实际应用场景大幅增强:

　　增强Charts, Table, Inforgraphics, Screenshot 识别能力,支持复杂图表理解、信息提取、问答以及推理。中文图表体验超过GPT4V。

　　在 Yi-VL 基础上进一步提高了图片分辨率,模型支持 1024*1024 分辨率输入,显著提高生产力场景中的文字、数字 OCR 的准确性。

　　保持了 LLM 通用语言、知识、推理、指令跟随等能力。

　　中文图表识别功能评测:Yi-VL-Plus 可准确识别图表对应数据,GPT-4V 有 3 处数据识别错误

　　Yi-VL-Plus 模型在中文图表理解场景,准确率高于 GPT-4V

　　优化推理速度、兼容OpenAI API

　　Yi大模型API开放平台正式上线!

　　取得了上述的大模型核心技术实力,零一万物也在投入贡献 AI 2.0 生态。在内测,零一万物正式推出了 Yi 大模型 API 开放平台,希望帮助开发者,共同挖掘更多应用场景,持续创新。

　　针对 API 侧的实际开发需求,零一万物投入了大量优化和兼容能力的研发工作,去提升开发者研发效率和最终用户的产品体验。具体来说:

　　优化推理速度

　　为了提升 API 性能,零一万物团队在 API 侧进行了推理优化,因此 Yi-34B-Chat 系列 API 具备较快的推理速度,这不仅缩短了处理时间,同时也保持了出色的模型效果。

　　降低接口延迟

　　优化的 API 接口显著降低模型回复的延迟,进一步提高用户体验的流畅性和响应速度。

　　兼容OpenAI API,实现平滑迁移

　　Yi 大模型 API 与 OpenAI API 完全兼容,开发者只需修改少量代码,可以平滑迁移,即刻享受 Yi 大模型的超凡魅力。

　　目前 API 开放平台已经提供 3 个零一万物核心重磅的大模型产品,分别是可支持通用聊天、问答、对话、写作、翻译等功能的 Yi-34B-Chat-0205,可支持 200K 上下文,多文档阅读理解、超长知识库构建小能手的 Yi-34B-Chat-200K,还有多模态模型 Yi-VL-Plus,支持文本、视觉多模态输入,中文图表体验超过 GPT-4V。更多零一万物的大模型也将持续发布和提供到 API 开放平台中。

　　从专业开发者到大模型发烧友

　　Yi大模型API开放平台的创新AI 2.0应用正在涌现

　　正式发布前,零一万物已经在开发者群体进行了 API 邀请内测和开发,实测性能和效果超出预期。具体测试的企业与个人 C 端应用场景包括使用 Yi Chat 模型构建智能对话助手(类似 ChatGPT);使用 Yi 多模态模型,识别图片中存在的表格,文字,并进行深层次的问答;将 Yi 系列模型整合到现有产品,实现类 Copilot 工具;使用 Yi 超长上下文模型构建知识库问答,用于客服、培训等特定知识的问答场景等等。

　　已经体验 API 的开发者中就有对长文本要求非常高的专业团队星云爱店,其产品涉及文献解读与科研写作、青少年教育与健康类助手等。星云爱店的开发负责人希望大模型产品的长文本精确摘要,对话文案专业化、精细化,拒答率低,因为对于教育和心理健康的大模型,更需要兼具“智商”和“情商”,而不是冷冰冰和严肃的工作问答工具。

　　例如心理咨询场景,在线拒答率、回答文案的温暖程度极大影响用户体验。“某些大模型 API 接入后,动不动就拒答或者回答文本‘降智偷懒’,Yi 大模型 IQ 在线且 EQ 出色,测试期间几乎没有拒答,能持续输出高质量有温度的文案,我们相当满意。”星云爱店的技术负责人表示。

　　内测开发者中除了专业的企业级应用开发团队,还有不会代码编程的大模型发烧友。一位叫“闻”的网友本身是 HiFi 音乐发烧友,并运营了一个分享古典音乐的公众号。虽然他自称不懂写代码,但已经可以使用 Lobe-chat 这样的工具去实现开发。借助 Yi 大模型 API,他实现了翻译英文长视频和翻译古典音乐介绍两个 AI 2.0 场景应用的功能。正是有了易用的 API,让他从对技术的热情和对新事物的好奇,可以更进一步去探索开发、并真正落地了具有创意的 AI 2.0 应用。

　　网友“闻”优化翻译古典音乐科普流程后的最终输出结果

　　“Yi-34B-Chat-200K 面对几万字的超长提示词,10 秒钟就反馈回来了结果,极大提高大家工作效率。”,“接入 Yi 大模型 API 代码修改量极少,几乎是分分钟就可以搞定。”。这些都是内测中收到的众多开发者反馈中的真实声音,也让我们看到基于 API 的 AI 2.0 应用开发需求的火热。

　　对于 AI 2.0 开发生态的工作,零一万物表示,近期零一万物将为开发者提供更多更强模型和 AI 开发框架。包括:

　　推出一系列的模型 API,覆盖更大的参数量、更强的多模态,更专业的代码/数学推理模型等;

　　突破更长的上下文,目标 100 万 tokens;支持更快的推理速度,显著降低推理成本;

　　基于超长上下文能力,构建向量数据库、RAG、Agent 架构在内的全新开发者 AI 框架。旨在提供更加丰富和灵活的开发工具,以适应多样化的应用场景。

　　AI 2.0 正在进一步发展,并深入千行百业。作为新质生产力核心的 AI 2.0 技术,是开发者需要重点关注的领域。借助优质 AI 2.0 厂商的 API 和开发工具,开发者可以提高研发效率,加速 AI 2.0 的应用落地,正在成为 2024 年全新的 AI 2.0 研发趋势。目前 Yi 大模型 API 开放平台推出了上新优惠活动,名额限量开放中,新用户即赠送60元。机会难得,点击阅读原文了解详情~

　　零一万物API开放平台链接:https://platform.lingyiwanwu.com/

　　零一万物邀请具有创造力的开发者并肩作战,助力加速开发 AI 2.0 应用生态,一同探索 LLM 的广阔应用场景!