如何在 LM Studio 运行 UnimeType Transliteration-4B

在本地下载、加载并测试这个 4B 多语言 Convert 模型,覆盖中文拼音、日文 Romaji、Hinglish 和 Arabizi。

UUnimeType · 2 分钟阅读

UnimeType Transliteration-4B 是一个以 MLX 格式发布的小型 Convert 模型。在 Apple 芯片电脑上,可以用 LM Studio 直接加载它,并在本地尝试四种目标语言路径。

下载模型

打开 Transliteration-4B 模型页面,使用你习惯的 Hugging Face 方法下载整个仓库。然后在 LM Studio 中导入或选择已经下载的 MLX 模型目录。

公开文件基于 Qwen3.5-4B,使用 group size 64 的 6-bit affine 量化。模型仓库约为 3.44 GB。磁盘文件大小不等于运行时峰值内存。

把它作为文字模型加载

本文这些短 Convert 示例可以使用 2048 的上下文长度。启动本地服务器,然后在 LM Studio 中选择已经加载的模型。

Convert 需要任务提示词说明目标语言,并要求只返回替换正文。普通聊天提示词不是同一个测试,可能让模型添加解释,或者执行另一种写作任务。

每种语言先试一条

可以先用下面四条做快速检查:

语言路径拉丁字母输入目标形式
中文jintian yao finish README今天要 finish README
日文ashita Tokyo de meeting ga arimasu明日 Tokyo で meeting があります
印地语aaj meeting haiआज meeting है
阿拉伯语fee meeting bokraفي meeting بكرة

这些例子不只测试能否生成目标文字,也检查中间的英文片段是否保持不变。

先测试保留能力,再测试长文

在用长段落判断模型之前,先试代码、产品名、网址、emoji 和多行输入。这个模型处理边界明确的 Convert,不用于翻译、改写、Polish 或 Explain。

本地执行表示推理发生在运行 LM Studio 的电脑上。其他应用向本地服务器发送什么内容,则取决于该应用的集成方式和设置。

模型卡片里的分数如何得到,见我们如何评测多语言转写模型。产品的本地与联网边界见产品边界

选择你的平台查看当前下载与测试选项。

查看下载下一篇: 怎样用英文键盘输入印地语:3 种方法