Llama 3 自发布以来备受关注，并被誉为「迄今为止最好的开源大模型」，但 Llama 3 在支持中文方面仍然存在一些问题，比如在使用中文提问时，经常发生英文回复或者中英混合回复的情况，非常不方便。

image-20240702092620769

使用中文向 Llama 3-8B-Instruct 进行提问

针对于此，河南工业大学人工智能系来新璐同学开发了首个 Llama 3 中文版本 Llama 3-Chinese-Chat 模型，能够实现流畅的中文对话，拥有超高中文理解能力。
目前，「一键部署 Llama 3-Chinese-Chat-8B Demo」已经同步上线至 HyperAI超神经官网，无需输入任何命令、只需一键即可开启对话。

image-20240702092647537

使用中文向 Llama 3-Chinese-Chat-8B 进行提问

教程地址：

https://go.hyper.ai/ocpwC

Demo 运行

  1. 登录 hyper.ai，在「公共教程」页面，选择「一键部署 Llama 3-Chinese-Chat-8B Demo」。点击「在线运行此教程」。

  2. image-20240702092709980

  3. 页面跳转后，点击右上角「克隆」，将该教程克隆至自己的容器中。

    image-20240702092747939

  4. 点击右下角「下一步：选择算力」。

    image-20240702092817842

  5. 页面跳转后，选择「NVIDIA GeForce RTX 4090」，点击「下一步：审核」。新用户使用下方邀请链接注册，可获得 4 小时 RTX 4090  + 5 小时 CPU 的免费时长！

HyperAI超神经专属邀请链接（直接复制到浏览器打开）：https://openbayes.com/console/signup?r=6bJ0ljLFsFh_Vvej

image-20240702092840389

  1. 点击「继续执行」，等待分配资源，首次克隆需等待 3 分钟左右的时间。当状态变为「运行中」后，将鼠标移动至「API 地址」后，复制该地址并在新标签页打开，即可跳转至 Llama 3-Chinese-Chat-8B Demo 页面。请注意，用户需在实名认证后才能使用 API 地址访问功能。

若超过 10 分钟仍处于「正在分配资源」状态，可尝试停止并重启容器；若重启仍无法解决，请在官网联系平台客服。

image-20240702093015435

image-20240702093029289

效果演示

  1. 打开 Llama 3-Chinese-Chat-8B Demo 页面，在对话框内容输入文本，点击发送，即可开始对话。

image-20240702093106927

  1. 将今年高考作文（全国卷）的题目与要求发送给它，它可以十分快速的输出一篇符合要求的作文。

image-20240702093121945

  1. 左侧的超参数面板分别表示：

Maximum length： 模型最大输出文字的数量；

Top P： 控制从模型输出的概率分布中选择候选词的范围，值增大，意味着在文本生成过程中考虑的单词集合会更大；

Temperature： 控制随机性的超参数，值越大，生成文本的随机性越大；

Repetition Penalty： 控制生成文本中重复内容，数值越高意味文本中相同的短语或者词汇出现的次数越少。

image-20240702093305086