麻豆 在线

老子曰：连接保持对新事物的兴致麻豆 在线，粗鲁减慢老套。

”

前天提到可以使用Ollama在腹地电脑上部署大模子并离线使用（见一条号令完资腹地版大模子下载及装配使用）。Ollama仅仅一个加载大模子的框架辛勤，其实同样的框架在github上还可以找到一堆，目下比较热的比如LM Studio也还挺好用，不外我最可爱Ollama的极少是其静默驱动，在需要大模子的本事才加载模子，极度轻巧和易于部署。

部署了大模子，天然是要使用。有东说念主说GPT4不好用么，Windows Copilot不好用么，这些诚然功能强大，但有本事造访不太便捷。那国内模子呢？国内模子的发挥目下作念一些笔墨性使命还可以，不外波及到一些逻辑性和精准性条目比较高的数理问题就衣衫不整了。天然诓骗国内大模子作念一些笔墨润色、讲话翻译如故极度的哇噻的。但这些大模子并不掌抓在我方手里，没准今天用的极度爽的模子未来就让你交钱了，是以一些开源的大模子如故值得使用的。

对中语支柱比较好的开源大模子推选阿里的Qwen和智谱的ChatGLM3，个东说念主浓烈推选Qwen。

有了大模子，后续天然是成立在大模子基础上的应用了。咱们可以在大模子的基础上基于langchain构建特有常识库，也可以诓骗这些大模子作念一些笔墨性的器具设备。这类器具其实编制起来很浅近，无非是调用大模子提供的接口，欧美性爱电影再加入极少指示词即可。

比如今天要推选的开源神气OpenAI Translator。

github地址：https://github.com/openai-translator/openai-translator

”

OpenAI Translator起原是思使用ChatGPT赶走划词翻译的。不外目下还是发展成可以加载一些腹地部署的大模子了。

1 装配

OpenAI Translator提供了全平台支柱，甚而包括浏览器插件。这里以windows系统为例。

下载地址：https://github.com/openai-translator/openai-translator/releases/tag/v0.3.24

”

插操纵载地址麻豆 在线，遴选下载安妥的装配法子，如下图所示。

图片

装配经由没啥好说的，双击装配法子即可。

2 建树

率先确保本机上还是驱动了Ollama，且Ollama还是提前部署了大模子。这里以qwen:7b为例。

驱动OpenAI Translator，点击左下角的缔造按钮。

图片

在通用选项卡中进行缔造指定默许管事提供商为 Ollama（腹地模子）指定API模子为 自界说指定自界说模子称号 为 qwen:7b

图片

这里要防备自界说模子称号必须与Ollama驱动的模子称号保持一致，不然会找不到模子。

为便捷使用，可以缔造快捷键。

插足快捷键选项卡，如图所示缔造快捷键

图片

璷黫找段英文尝试一下。

遴选英文，按前边缔造的快捷键（如上图缔造的alt+c）

图片

快捷键会叫醒OpenAI Translator并将自动翻译遴选的笔墨。翻译速率超等快，从下图可以看出，翻译质料也极度的可以。

图片

波多野结衣作品全集

再来段中译英试试。来个英文塌实的说念友评价一下翻译后果何如。

图片

qwen:7的中译英后果不咋地，有本事翻译为止中会有中笔墨，诚然多翻译几次能摒除，但如故不爽。不外好在可以换其他的模子。底下是谷歌前几天开源的Gemma翻译的为止，诚然翻译为止中不会出现中语，但从底下的为止来看，Gemma似乎识字未几，两个东说念主名字王人认错。个东说念主认为qwen翻译更纯正，从临了一句嗅觉到的。

图片

OpenAI Translator除了粗鲁提供翻译功能外，还提供了基于大模子的笔墨生成及润色功能，有兴致的说念友可自行探索。要是编程智商还可以的话，全王人可以自行编制同样的器具，这仅仅一个浅近的调用接口的外壳辛勤。

受制于硬件资源，腹地粗鲁部署的大模子参数目王人比较小，功能和性能王人无法与头部厂家提供的模子比拟，但腹地模子主打一个安全和快速反应，可玩性也更强。不外从目下内卷容貌来看，开源模子的性能势必也会快速陶冶，当今好多7B的模子在一些衰竭界限的发挥还是不输于当初的GPT3.5了。

（完）

本站仅提供存储管事，悉数实践均由用户发布，如发现存害或侵权实践，请点击举报。