google / sentencepiece

Unsupervised text tokenizer for Neural Network-based text generation.
Apache License 2.0
10.23k stars 1.17k forks source link

user defined char set separated from "_". #692

Closed BrightXiaoHan closed 3 years ago

BrightXiaoHan commented 3 years ago

I want to train a joint Chinese and English model. And predefine common use Chinese chars like this (totally 7000 chars).

一
丁
七
万
丈
三
上
下
不
与
丐
丑

I train the model by this command

spm_train --input en.tok,zh.tok \
          --model_prefix en-zh \
          --vocab_size 40000 \
          --accept_language "en,zh" \
          --input_sentence_size 20000000 \
          --character_coverage 0.9995 \
          --model_type bpe \
          --user_defined_symbols_file common.txt \
          --unk_surface ""

en.tok samples

Table cloth and skirting must be well pressed without any stain and holes .
Till the dawn comes tumbling down
But since it is unclear what he will do with the inmates — he has left open the possibility of detaining the most dangerous ones indefinitely — that could change .
Use low gear ( on manual transmissions ) when traveling up steep hills or over sand , gravel , or dirt roads .
APPLIES TO WHEEL BURNS / SQUATS / SHELLS LESS THAN 3 " LONG AND / OR LESS THAN 1 / 8 " DEEP , IN LOCATIONS WHERE A WATER CONDITION , SUCH AS DRIPPING ON TOP OF THE RAIL , DOES EXIST .
44 . Revision of the Code of Criminal Procedure was started in March 2007 with the aim of bringing it into line with international human rights standards and in order to reflect the changes in the revised version of the Penal Code that is awaiting approval by the National Assembly .
Pot experiment was conducted by applying different organic acids in the lead mine tailings to examine anatomical structures and physiological indicators of I . halophila and I . lactea var . chinensis .

zh.tok samples

然 而 , 如 果 把 《 纲 要 》 视 为 目 的 本 身 , 那 就 错 了 。
关 于 可 能 有 一 种 义 务 , 要 求 国 家 和 国 际 组 织 合 作 制 止 严 重 违 反 国 际 法 强 制 性 规 范 规 定 的 义 务 的 行 为 , 比 利 时 代 表 团 以 前 曾 就 这 一 问 题 指 出 , 只 要 强 制 法 规 范 是 普 遍 适 用 的 规 范 , 它 
们 就 对 整 个 国 际 社 会 , 其 中 也 包 括 国 际 组 织 , 具 有 约 束 力 。
在 清 真 寺 的 数 目 增 加 的 同 时 , 一 些 东 正 教 和 新 教 教 堂 的 数 目 也 在 增 加 。
并 且 我 们 现 在 有 方 法 来 创 建 这 样 一 个 系 统
由 于 美 国 政 府 面 临 着 前 所 未 有 的 借 贷 需 求 , 财 政 部 周 三 表 示 将 重 新 推 出 3 年 期 国 债 , 并 将 进 行 10 年 期 国 债 和 30 年 期 国 债 增 额 拍 卖 。
项 目 发 起 人 将 审 议 投 标 人 对 “ 岩 土 和 环 境 计 划 ” 和 ( 或 ) “ 公 用 设 施 计 划 ” 进 行 修 改 和 补 充 的 请 求 , 自 行 决 定 是 否 接 受 任 何 投 标 人 的 请 求 , 并 制 定 最 终 计 划 ( 每 项 计 划 均 为 “ 综 合 计 划 
” ) 。
所 有 帷 幕 检 查 孔 均 采 取 岩 芯 , 获 得 率 94 % , 满 足 设 计 要 求 。
我 对 这 很 在 行 。
供 方 应 假 定 , 在 安 装 之 前 , 组 装 阀 门 将 在 室 外 存 放 一 年 , 包 括 所 有 开 口 的 充 分 运 输 密 封 。
研 究 人 员 正 修 改 蚊 子 的 基 因 来 观 察 它 们 如 何 影 响 寄 生 虫 的 发 展 .

The tokenized result by the trained model like this

▁ 然 ▁ 而 ▁, ▁ 如 ▁ 果 ▁ 把 ▁《 ▁ 纲 ▁ 要 ▁》 ▁ 视 ▁ 为 ▁ 目 ▁ 的 ▁ 本 ▁ 身 ▁, ▁ 那 ▁ 就 ▁ 错 ▁ 了 ▁。
▁ 关 ▁ 于 ▁ 可 ▁ 能 ▁ 有 ▁ 一 ▁ 种 ▁ 义 ▁ 务 ▁, ▁ 要 ▁ 求 ▁ 国 ▁ 家 ▁ 和 ▁ 国 ▁ 际 ▁ 组 ▁ 织 ▁ 合 ▁ 作 ▁ 制 ▁ 止 ▁ 严 ▁ 重 ▁ 违 ▁ 反 ▁ 国 ▁ 际 ▁ 法 ▁ 强 ▁ 制 ▁ 性 ▁ 规 ▁ 范 ▁ 规 ▁ 定 ▁ 的 ▁ 义 ▁ 务 ▁ 的 ▁ 行 ▁ 为 ▁, ▁ 比 ▁ 利 ▁ 时 ▁ 代 ▁ 表 ▁ 团 ▁ 以 ▁ 前 ▁ 曾 ▁ 就 ▁ 这 ▁ 一 ▁ 问 ▁ 题 ▁ 指 ▁ 出 ▁, ▁ 只 ▁ 要 ▁ 强 ▁ 制 ▁ 法 ▁ 规 ▁ 范 ▁ 是 ▁ 普 ▁ 遍 ▁ 适 ▁ 用 ▁ 的 ▁ 规 ▁ 范 ▁, ▁ 它 ▁ 们 ▁ 就 ▁ 对 ▁ 整 ▁ 个 ▁ 国 ▁ 际 ▁ 社 ▁ 会 ▁, ▁ 其 ▁ 中 ▁ 也 ▁ 包 ▁ 括 ▁ 国 ▁ 际 ▁ 组 ▁ 织 ▁, ▁ 具 ▁ 有 ▁ 约 ▁ 束 ▁ 力 ▁。
▁ 在 ▁ 清 ▁ 真 ▁ 寺 ▁ 的 ▁ 数 ▁ 目 ▁ 增 ▁ 加 ▁ 的 ▁ 同 ▁ 时 ▁, ▁ 一 ▁ 些 ▁ 东 ▁ 正 ▁ 教 ▁ 和 ▁ 新 ▁ 教 ▁ 教 ▁ 堂 ▁ 的 ▁ 数 ▁ 目 ▁ 也 ▁ 在 ▁ 增 ▁ 加 ▁。
▁ 并 ▁ 且 ▁ 我 ▁ 们 ▁ 现 ▁ 在 ▁ 有 ▁ 方 ▁ 法 ▁ 来 ▁ 创 ▁ 建 ▁ 这 ▁ 样 ▁ 一 ▁ 个 ▁ 系 ▁ 统
▁ 由 ▁ 于 ▁ 美 ▁ 国 ▁ 政 ▁ 府 ▁ 面 ▁ 临 ▁ 着 ▁ 前 ▁ 所 ▁ 未 ▁ 有 ▁ 的 ▁ 借 ▁ 贷 ▁ 需 ▁ 求 ▁, ▁ 财 ▁ 政 ▁ 部 ▁ 周 ▁ 三 ▁ 表 ▁ 示 ▁ 将 ▁ 重 ▁ 新 ▁ 推 ▁ 出 ▁3 ▁ 年 ▁ 期 ▁ 国 ▁ 债 ▁, ▁ 并 ▁ 将 ▁ 进 ▁ 行 ▁10 ▁ 年 ▁ 期 ▁ 国 ▁ 债 ▁ 和 ▁30 ▁ 
年 ▁ 期 ▁ 国 ▁ 债 ▁ 增 ▁ 额 ▁ 拍 ▁ 卖 ▁。
▁ 项 ▁ 目 ▁ 发 ▁ 起 ▁ 人 ▁ 将 ▁ 审 ▁ 议 ▁ 投 ▁ 标 ▁ 人 ▁ 对 ▁“ ▁ 岩 ▁ 土 ▁ 和 ▁ 环 ▁ 境 ▁ 计 ▁ 划 ▁” ▁ 和 ▁( ▁ 或 ▁) ▁“ ▁ 公 ▁ 用 ▁ 设 ▁ 施 ▁ 计 ▁ 划 ▁” ▁ 进 ▁ 行 ▁ 修 ▁ 改 ▁ 和 ▁ 补 ▁ 充 ▁ 的 ▁ 请 ▁ 求 ▁, ▁ 自 ▁ 行 ▁ 决 ▁ 定 ▁ 是 ▁ 否 ▁ 接 ▁ 受 ▁ 任 ▁ 何 ▁ 投 ▁ 标 ▁ 人 ▁ 的 ▁ 请 ▁ 求 ▁, ▁ 并 ▁ 制 ▁ 定 ▁ 最 ▁ 终 ▁ 计 ▁ 划 ▁( ▁ 每 ▁ 项 ▁ 计 ▁ 划 ▁ 均 ▁ 为 ▁“ ▁ 综 ▁ 合 ▁ 计 ▁ 划 ▁” ▁) ▁。
▁ 所 ▁ 有 ▁ 帷 ▁ 幕 ▁ 检 ▁ 查 ▁ 孔 ▁ 均 ▁ 采 ▁ 取 ▁ 岩 ▁ 芯 ▁, ▁ 获 ▁ 得 ▁ 率 ▁94 ▁% ▁, ▁ 满 ▁ 足 ▁ 设 ▁ 计 ▁ 要 ▁ 求 ▁。
▁ 我 ▁ 对 ▁ 这 ▁ 很 ▁ 在 ▁ 行 ▁。
▁ 供 ▁ 方 ▁ 应 ▁ 假 ▁ 定 ▁, ▁ 在 ▁ 安 ▁ 装 ▁ 之 ▁ 前 ▁, ▁ 组 ▁ 装 ▁ 阀 ▁ 门 ▁ 将 ▁ 在 ▁ 室 ▁ 外 ▁ 存 ▁ 放 ▁ 一 ▁ 年 ▁, ▁ 包 ▁ 括 ▁ 所 ▁ 有 ▁ 开 ▁ 口 ▁ 的 ▁ 充 ▁ 分 ▁ 运 ▁ 输 ▁ 密 ▁ 封 ▁。
▁ 研 ▁ 究 ▁ 人 ▁ 员 ▁ 正 ▁ 修 ▁ 改 ▁ 蚊 ▁ 子 ▁ 的 ▁ 基 ▁ 因 ▁ 来 ▁ 观 ▁ 察 ▁ 它 ▁ 们 ▁ 如 ▁ 何 ▁ 影 ▁ 响 ▁ 寄 ▁ 生 ▁ 虫 ▁ 的 ▁ 发 ▁ 展 ▁.

How can I do to remove the space between Chinese chars and ?

tomsbergmanis commented 1 year ago

@BrightXiaoHan did you find a way to fix this within the sentence piece? I am having the same issue.