日本語の医療テキストから病名を抽出するシステムです. MedEX/Jの上位バージョンに相当します.
Bidirectional Encoder Representations from Transformers (BERT)の特徴量を元に,条件付き確率場 (Conditional Random Fields: CRF) で病名の抽出を行っています.
BERTは東北大学乾・鈴木研究室配布の文字ベースモデルを使用しています.
MeCabのインストールを行ってください.
mac環境ではbrewでインストールできます.
brew install mecab mecab-ipadic
パッケージのインストールは以下のコマンドで行ってください.
pip install --upgrade pip
pip install git+https://github.com/sociocom/MedNER-J.git
Windowsでのインストールでうまく行かない方は,こちらをご参照ください.
C
:患者に認められる症状/疾患(陽性所見)
CN
:患者に認められない症状/疾患(陰性所見)
-i
:入力ファイル名-o
:出力ファイル名-m
:モデル (BERT
, drug
, or radiology
, default: BERT
)-n
:正規化方法(dict
or dnorm
, default: dict
)-f
:出力フォーマット (xml
or json
, default:xml
)mednerj -i sample.txt -o output.txt -f xml
入力ファイルは1行1文のテキストファイルを用意してください.
出力フォーマットとして,XML形式とJSON形式を選択できます.それぞれの出力フォーマットについては「使い方」の出力例をご参照ください.
(注)初回の動作時に,モデルファイルと辞書ファイルのダウンロードが行われます(~/.cache/MedNERJ
)
入出力に関しては,ファイル名を指定しなければ,標準入力・標準出力を使用します.
辞書による正規化(dict)と機械学習による正規化(dnorm)があります.
辞書は万病辞書を使用します. 略語の展開や類似語検索などは行いません.
フォーマット例:関節液貯留ー>かんせつえきちょりゅう;icd=E877;lv=C/freq=高;体液貯留
DNormの日本語実装を使用します.
フォーマット例:関節液貯留ー>体液貯留
スクリプトから使用する場合,任意の呼び出し可能な関数による正規化を行えます.
python3 -m medner_j -i sample.txt -o sample_output.txt -f xml
もしくは
python3 -m medner_j -f xml < sample.txt > sample_output.txt
それぞれの関節に関節液貯留は見られなかった
その後、左半身麻痺、CTにて右前側頭葉の出血を認める。
それぞれの関節に<CN value="かんせつえきちょりゅう;icd=E877;lv=C/freq=高;体液貯留">関節液貯留</CN>は見られなかった
その後、<C value="ひだりはんしんまひ;icd=G819;lv=A/freq=高;片麻痺">左半身麻痺</C>、CTにて右前側頭葉の<C value="しゅっけつ;icd=R58;lv=S/freq=高;出血">出血</C>を認める。
[{"span": [8, 13], "type": "CN", "disease": "関節液貯留", "norm": "かんせつえきちょりゅう;icd=E877;lv=C/freq=高;体液貯留"}]
[{"span": [4, 9], "type": "C", "disease": "左半身麻痺", "norm": "ひだりはんしんまひ;icd=G819;lv=A/freq=高;片麻痺"}, {"span": [20, 22], "type": "C", "disease": "出血", "norm": "しゅっけつ;icd=R58;lv=S/freq=高;出血"}]
from medner_j import Ner
sents = [
"それぞれの関節に関節液貯留は見られなかった",
"その後、左半身麻痺、CTにて右前側頭葉の出血を認める。"
]
model = Ner.from_pretrained(model_name="BERT", normalizer="dict")
results = model.predict(sents)
print(results)
詳細はこちら
from medner_j import Ner
class UserNormalizer(object):
def __init__(self, normalize_dic):
self.normalize_dic = normalize_dic
def normalize(self, word):
return self.normalize_dic.get(word)
model = Ner.from_pretrained(normalizer=UserNormalizer.normalize)
例えば上記のような関数をnormalizerに渡すことで,任意の正規化を行えます
install.sh
を実行してくださいfresh_install.sh
を使うとモデルファイルなどのキャッシュも削除します