目录

  • 猎户星空大模型是什么？
  • 猎户星空大模型的主要功能和特点
  • 猎户星空大模型的性能亮点
  • 如何使用猎户星空大模型？

猎户星空大模型是什么？

猎户星空大模型是猎户星空发布的一个专为企业应用设计的AI模型，具有140亿参数的多语种大模型。该模型在一个包含2.5万亿token的多样化数据集上进行了训练，涵盖了中文、英语、日语、韩语等多种语言。Orion-14B系列模型在多语言环境下的一系列任务中展现出卓越的性能，并在主流的公开基准评测中表现优异，多项指标显著超越同等参数的其他模型。

猎户星空大模型的主要功能和特点

  • Orion-14B-Base: 基于2.5万亿tokens多样化数据集训练的140亿参数量级的多语言基座模型。
  • Orion-14B-Chat: 基于高质量语料库微调的对话类模型，提供更好的用户交互体验。
  • Orion-14B-LongChat: 在200k token长度上效果优异，最长可支持可达320k。
  • Orion-14B-Chat-RAG: 在定制的检索增强生成数据集上进行微调的聊天模型，适用于检索增强生成任务。
  • Orion-14B-Chat-Plugin: 专为插件和函数调用任务定制的聊天模型，适用于代理场景。
  • Orion-14B-Base-Int4: 使用int4量化的基座模型，模型大小缩小70%，推理速度提升30%，性能损失仅1%。
  • Orion-14B-Chat-Int4: 使用int4量化的对话模型。

猎户星空大模型的性能亮点

  • 综合评测效果优异：基座20B参数级别大模型在多项测试中表现出色。
  • 强大的多语言能力：在日语、韩语等多语言测试集中表现领先。
  • 适应性强的微调模型：在人类标注盲测中表现突出，能够适应多种应用场景。
  • 超长文本支持：长上下文版本在200k token长度上效果优异，最长可支持320k。
  • 量化版本优势：模型大小缩小70%，推理速度提升30%，性能损失小于1%。

猎户星空大模型还提供了多种应用微调选项，如通用对话微调、插件微调、RAG微调、长Token微调、知识抽取微调和问答对生成微调等，以适应不同的企业场景需求。

如何使用猎户星空大模型？

猎户星空大模型特别强调其适合企业应用的特点，如：

  • 运行效率高：模型可以在千元级显卡（如NVIDIA RTX 3060）上运行，每秒可处理约50个汉字。
  • 私有化部署：大模型服务器可以放置在企业内网，确保数据安全。
  • 免费开源可商用：提供社区技术支持，用户可以免费获取并应用。

官网入口：https://www.orionstar.com/llm.html

在线体验：https://www.modelscope.cn/studios/OrionStarAI/Orion-14B-App-Demo/summary/

猎户星空大模型通过其丰富的功能和高效的性能，为企业提供了一个强大而灵活的AI解决方案，能够有效提高工作效率，满足多样化的业务需求。