-
这个可以用 bert4keras加载吗
model = build_transformer_model(
config_path,
checkpoint_path,
model="bert",
application='unilm',
keep_tokens=keep_tokens, # 只保留keep_tokens中的字,精简原字表
)
…
-
苏老师您好
我尝试用bert4keras和CPM做下游分类任务的时候发现GPU显存不够 报了OOM
设备是V100 32G显存
想请教一下您这边有没有遇到过同样的问题?
或者有什么解决方法?
-
‘ 然后用字embedding的平均作为词embedding的初始化’
平均这一步在源码的哪里?
-
bert的中文vocab.txt的汉字太少了,请问垂直领域遇到这样情况是怎么增加自己的token呢, 【unused】不够用
-
https://github.com/bojone/bert4keras/blob/2369b47dbdb295a26675fc889ee2cc1126092ca5/bert4keras/layers.py#L1295-L1316
-
按照给的实验环境(tensorflow 1.14 + keras 2.3.1 + bert4keras 0.9.7)训练生成式摘要时,在实验室服务器上(3090)跑得比自己笔记本上的还要慢,不知道是为什么,想请教一下~
-
提问时请尽可能提供如下信息:
### 基本信息
- 你使用的**操作系统**: Windows 10
- 你使用的**Python**版本: 3.6.2
- 你使用的**Tensorflow**版本: 1.14.0
- 你使用的**Keras**版本: 2.2.4
- 你使用的**bert4keras**版本: 0.10.6 (0.9.6~0.10.6都是一样的错)
- …
-
您好,我运行from nlpcda import Simbert报错:
Simbert将不能正常使用,除非你安装keras后端:tensorflow .... type object 'AutoRegressiveDecoder' has no attribute 'wraps'
环境按requirements.txt和README的要求装好了,具体是:
keras==2.3.1
be…
-
提问时请尽可能提供如下信息:
### 基本信息
-Ubuntu 18.04.3
- Python 3.6.13
- Tensorflow 1.14.0
- Keras 2.3.1
- bert4keras 0.10.6
### 核心代码
```python
from bert4keras.backend import keras, K
File "lib…
-
我尝试了用google的chinese-bert模型 和 zhuiyi的wobert-plus模型,来进行预测句子中[MASK]的候选词的实验,发现wobert-plus得到的结果都是停用词,请教一下哪里操作错误了。
predict函数:
```python
def TopCandidates(token_ids, i, topn=64):
"""用语言模型给出第i个位置的to…