UCloud上线多款主流大模型镜像，提供“模型+算力”一站式服务-每日简讯

在当前AI大爆发的时代，人们对于大语言模型（LLM）的需求及应用日益增长。大语言模型通过深度学习和自然语言处理技术，能够理解和生成人类语言，不仅能够回答各种问题，提供准确的信息，还能生成文本、创作故事、撰写文章等。无论是在学术研究、商业决策还是日常生活中，它们都成为了人们不可或缺的助手。

(资料图)

然而，大模型的复杂性和庞大的计算资源需求也是一项挑战，如何快速、高效地获取部署这些大模型成为许多企业和开发者面临的难题。

为了满足客户对大模型的需求，UCloud镜像市场近期上线了Alpaca-LoRA、ChatGLM、T5以及MiniGPT-4的四款大模型。提供快捷部署能力，简单四步，客户即可搭建大语言模型的微调或者推理的环境。

1、登录UCloud控制台

（https://console.ucloud.cn/uhost/uhost/create）；

2、选择GPU云主机，各模型的推荐机型及配置参考文档

（https://docs.ucloud.cn/gpu/practice/Alpaca-LoRA）；

3、在镜像市场选择镜像，例如Alpaca-LoRA，搜索Alpaca-LoRA即可；

4、立即创建，开机执行进程启动命令即可（参考登录页面提示，如下图）

客户只需要为选择的GPU资源付费，镜像市场的这四款开源大模型镜像，均免费提供使用。

目前提供了以下四种模型：

Alpaca-LoRA-7B

Alpaca-LoRA是使用Lora(Low-rank Adaptation)技术在Meta的LLaMA 7B模型上微调，只需要训练很小一部分参数就可以获得媲美 Standford Alpaca 模型的效果，可以认为是ChatGPT轻量级的开源版本。对于想要训练自己的类ChatGPT模型（包括中文版类ChatGPT）但又没有顶级算力资源配置的研究者来说，是最优选择之一。

目前UCloud预装的镜像提供微调和推理两种便捷使用方式。以推理为例，展示效果如下：

ChatGLM-6B

ChatGLM-6B是清华大学发布的一个开源模型。通过对大量数据进行训练，ChatGLM学习到了丰富的语言知识和上下文理解能力。它可以理解对话的上下文，对问题进行准确回答，并能够生成连贯、有逻辑的对话内容。相较于其他国外的模型，ChatGLM在处理中文任务方面表现尤为出色，可广泛应用于中文客服对话、智能助手、中文问答系统等各种场景。它能够帮助用户解决问题、提供准确的中文回答，并能够适应不同领域和语境的需求。

例如输入：“请做一个为期三天的行程规划，目的地：上海，目的：旅游，需包含旅游项目和饮食”，输出：

ChatGLM-6B中文模型也具备可定制性，可以通过微调和参数调整来适应特定的中文任务和个性化要求。这使得中文模型在满足企业、开发者和研究者特定需求方面更加灵活和实用。

T5

T5（Text-To-Text Transfer Transformer）是一种基于Transformer架构的多用途语言模型。T5模型具备强大的文本生成能力，它可以根据用户提供的提示或问题，生成高质量的文章、摘要、问答等内容。无论是撰写博客文章、社交媒体内容还是其他类型的文本创作，T5都能够节省不少的时间和精力，快速生成令人满意的文字。

其次，T5模型在多语言翻译方面表现出色，它能够将文章内容翻译成多种语言，无论用户是想扩大业务范围、吸引国际读者还是进入新的市场，T5都能提供高质量的翻译服务，使内容更具多样性和国际化。

此外，T5模型还具备优秀的摘要生成能力。它可以自动提取文章的核心要点，并生成简洁而准确的摘要。这对于需要在有限篇幅内传达信息或吸引读者注意力的场景非常有用，让内容更具吸引力和易读性。最重要的是，T5模型具备灵活性和可定制性。它可以通过微调和调整参数，适应各种应用场景和个性化需求，例如构建特定行业智能对话系统等。

UCloud镜像市场分别提供了T5-Base，T5-3B两个模型的镜像。

MiniGPT-4

MiniGPT-4是基于GPT-3.5的小型语言模型，在多个领域展现了其强大的潜力。作为多模态模型，MiniGPT-4能够理解和处理不同模态之间的关联性，从而为更丰富的创作和应用提供支持。通过将图像、文本和音频等多种形式的数据结合在一起，MiniGPT-4可以生成与输入数据相关的多模态输出。无论是创意写作、故事构思、诗歌创作还是市场营销文案，MiniGPT-4都能为您提供灵感和支持。

例如，在给定一张图片的情况下，您可以使用MiniGPT-4来生成与该图片相关的描述文本，或者创建一个故事情节，让图像栩栩如生地跃然纸上。它可以提供更加丰富和多样化的创作体验，同时为跨模态任务和项目提供了更广阔的应用领域。

写在最后

云计算的核心即为通过云端提供海量算力，从这个角度来说，采用云基础设施就有了跑通AI算力、AI大模型和生成式AI应用的入场券。UCloud作为国内领先的云计算厂商，也成为了大模型入口处的铺路人。

以大模型训练所需要的算力资源来看，UCloud在国家“东数西算”枢纽自建的乌兰察布数据中心提供了GPU高性能计算产品，上线了NVIDIA的V100S等多款显卡，A800也即将上线，满足不同用户在多场景下的GPU加速需求。同时，基于IB网络环境的多节点高性能计算集群，更好匹配超高计算性能，实现多节点间无损通信，满足用户多节点并行计算的场景需求。

除此之外，UCloud乌兰察布数据中心还部署了UCloud新一代归档存储产品US3、提供海量训练数据存储服务；采用WEB应用防火墙UWAF、DDoS攻击防护 UDDoS、主机入侵检测 UHIDS等一系列安全防护产品，实现全方位的安全稳定保障；乌兰察布低廉的电力供应，也为AI训练期间的算力资源，提供了高性价比的选择。

UCloud用云计算全栈技术能力和算力基础设施工程能力，致力于为AI客户提供高质量、高性能的底层算力解决方案。本次镜像市场的更新，与UCloud算力服务结合，旨在让每一位客户都能更便捷部署和使用大模型，为广大创业者的创新之路注入强大的动力，一起迎接大模型时代的挑战，共同创造更加辉煌的未来！

关键词：