Upload 249 files

.gitattributes

@@ -1,59 +1,7 @@
-*.7z filter=lfs diff=lfs merge=lfs -text
-*.arrow filter=lfs diff=lfs merge=lfs -text
-*.bin filter=lfs diff=lfs merge=lfs -text
-*.bz2 filter=lfs diff=lfs merge=lfs -text
-*.ckpt filter=lfs diff=lfs merge=lfs -text
-*.ftz filter=lfs diff=lfs merge=lfs -text
-*.gz filter=lfs diff=lfs merge=lfs -text
-*.h5 filter=lfs diff=lfs merge=lfs -text
-*.joblib filter=lfs diff=lfs merge=lfs -text
-*.lfs.* filter=lfs diff=lfs merge=lfs -text
-*.lz4 filter=lfs diff=lfs merge=lfs -text
-*.mds filter=lfs diff=lfs merge=lfs -text
-*.mlmodel filter=lfs diff=lfs merge=lfs -text
-*.model filter=lfs diff=lfs merge=lfs -text
-*.msgpack filter=lfs diff=lfs merge=lfs -text
-*.npy filter=lfs diff=lfs merge=lfs -text
-*.npz filter=lfs diff=lfs merge=lfs -text
-*.onnx filter=lfs diff=lfs merge=lfs -text
-*.ot filter=lfs diff=lfs merge=lfs -text
-*.parquet filter=lfs diff=lfs merge=lfs -text
-*.pb filter=lfs diff=lfs merge=lfs -text
-*.pickle filter=lfs diff=lfs merge=lfs -text
-*.pkl filter=lfs diff=lfs merge=lfs -text
-*.pt filter=lfs diff=lfs merge=lfs -text
-*.pth filter=lfs diff=lfs merge=lfs -text
-*.rar filter=lfs diff=lfs merge=lfs -text
-*.safetensors filter=lfs diff=lfs merge=lfs -text
-saved_model/**/* filter=lfs diff=lfs merge=lfs -text
-*.tar.* filter=lfs diff=lfs merge=lfs -text
-*.tar filter=lfs diff=lfs merge=lfs -text
-*.tflite filter=lfs diff=lfs merge=lfs -text
-*.tgz filter=lfs diff=lfs merge=lfs -text
-*.wasm filter=lfs diff=lfs merge=lfs -text
-*.xz filter=lfs diff=lfs merge=lfs -text
-*.zip filter=lfs diff=lfs merge=lfs -text
-*.zst filter=lfs diff=lfs merge=lfs -text
-*tfevents* filter=lfs diff=lfs merge=lfs -text
-# Audio files - uncompressed
-*.pcm filter=lfs diff=lfs merge=lfs -text
-*.sam filter=lfs diff=lfs merge=lfs -text
-*.raw filter=lfs diff=lfs merge=lfs -text
-# Audio files - compressed
-*.aac filter=lfs diff=lfs merge=lfs -text
-*.flac filter=lfs diff=lfs merge=lfs -text
-*.mp3 filter=lfs diff=lfs merge=lfs -text
-*.ogg filter=lfs diff=lfs merge=lfs -text
-*.wav filter=lfs diff=lfs merge=lfs -text
-# Image files - uncompressed
-*.bmp filter=lfs diff=lfs merge=lfs -text
-*.gif filter=lfs diff=lfs merge=lfs -text
-*.png filter=lfs diff=lfs merge=lfs -text
-*.tiff filter=lfs diff=lfs merge=lfs -text
-# Image files - compressed
-*.jpg filter=lfs diff=lfs merge=lfs -text
-*.jpeg filter=lfs diff=lfs merge=lfs -text
-*.webp filter=lfs diff=lfs merge=lfs -text
-# Video files - compressed
-*.mp4 filter=lfs diff=lfs merge=lfs -text
-*.webm filter=lfs diff=lfs merge=lfs -text
+dialog/chitchat/douban/train.txt filter=lfs diff=lfs merge=lfs -text
+dialog/chitchat/LCCC/train_dev.txt filter=lfs diff=lfs merge=lfs -text
+dialog/chitchat/weibo/train.txt filter=lfs diff=lfs merge=lfs -text
+dialog/knowledge/tencent/train.txt.zip filter=lfs diff=lfs merge=lfs -text
+open_ner_data/MSRA/msra_train.txt filter=lfs diff=lfs merge=lfs -text
+open_ner_data/MSRA/msra.txt filter=lfs diff=lfs merge=lfs -text
+open_ner_data/people_daily/people_daily_ner.txt filter=lfs diff=lfs merge=lfs -text

.idea/.gitignore

@@ -0,0 +1,8 @@
+# Default ignored files
+/shelf/
+/workspace.xml
+# Datasource local storage ignored files
+/../../../../:\craig\nlp_corpus\.idea/dataSources/
+/dataSources.local.xml
+# Editor-based HTTP Client requests
+/httpRequests/

.idea/inspectionProfiles/Project_Default.xml

@@ -0,0 +1,32 @@
+<component name="InspectionProjectProfileManager">
+  <profile version="1.0">
+    <option name="myName" value="Project Default" />
+    <inspection_tool class="PyPackageRequirementsInspection" enabled="true" level="WARNING" enabled_by_default="true">
+      <option name="ignoredPackages">
+        <value>
+          <list size="19">
+            <item index="0" class="java.lang.String" itemvalue="gensim" />
+            <item index="1" class="java.lang.String" itemvalue="pyplotz" />
+            <item index="2" class="java.lang.String" itemvalue="jieba" />
+            <item index="3" class="java.lang.String" itemvalue="fairseq" />
+            <item index="4" class="java.lang.String" itemvalue="scikit_learn" />
+            <item index="5" class="java.lang.String" itemvalue="torch" />
+            <item index="6" class="java.lang.String" itemvalue="torchvision" />
+            <item index="7" class="java.lang.String" itemvalue="pytorch_crf" />
+            <item index="8" class="java.lang.String" itemvalue="redis" />
+            <item index="9" class="java.lang.String" itemvalue="torchcrf" />
+            <item index="10" class="java.lang.String" itemvalue="pysolr" />
+            <item index="11" class="java.lang.String" itemvalue="kafka" />
+            <item index="12" class="java.lang.String" itemvalue="tensorboardX" />
+            <item index="13" class="java.lang.String" itemvalue="Flask_Cors" />
+            <item index="14" class="java.lang.String" itemvalue="arango" />
+            <item index="15" class="java.lang.String" itemvalue="pyltp" />
+            <item index="16" class="java.lang.String" itemvalue="rpyc" />
+            <item index="17" class="java.lang.String" itemvalue="pytorch_transformers" />
+            <item index="18" class="java.lang.String" itemvalue="bayesian_optimization" />
+          </list>
+        </value>
+      </option>
+    </inspection_tool>
+  </profile>
+</component>

.idea/inspectionProfiles/profiles_settings.xml

@@ -0,0 +1,6 @@
+<component name="InspectionProjectProfileManager">
+  <settings>
+    <option name="USE_PROJECT_PROFILE" value="false" />
+    <version value="1.0" />
+  </settings>
+</component>

.idea/misc.xml

@@ -0,0 +1,4 @@
+<?xml version="1.0" encoding="UTF-8"?>
+<project version="4">
+  <component name="ProjectRootManager" version="2" project-jdk-name="Python 2.7" project-jdk-type="Python SDK" />
+</project>

.idea/modules.xml

@@ -0,0 +1,8 @@
+<?xml version="1.0" encoding="UTF-8"?>
+<project version="4">
+  <component name="ProjectModuleManager">
+    <modules>
+      <module fileurl="file://$PROJECT_DIR$/.idea/nlp_corpus.iml" filepath="$PROJECT_DIR$/.idea/nlp_corpus.iml" />
+    </modules>
+  </component>
+</project>

.idea/nlp_corpus.iml

@@ -0,0 +1,8 @@
+<?xml version="1.0" encoding="UTF-8"?>
+<module type="PYTHON_MODULE" version="4">
+  <component name="NewModuleRootManager">
+    <content url="file://$MODULE_DIR$" />
+    <orderEntry type="inheritedJdk" />
+    <orderEntry type="sourceFolder" forTests="false" />
+  </component>
+</module>

.idea/vcs.xml

@@ -0,0 +1,6 @@
+<?xml version="1.0" encoding="UTF-8"?>
+<project version="4">
+  <component name="VcsDirectoryMappings">
+    <mapping directory="$PROJECT_DIR$" vcs="Git" />
+  </component>
+</project>

README.md

@@ -0,0 +1,10 @@
+# nlp_corpus
+## 1 中文实体识别
+- open_ner_data为网上开放的ner数据集，已将不同的数据格式转化为统一的数据格式，格式转换脚本为data_transfer.py
+### 1.1 boson数据集
+### 1.2 clue细粒度实体识别数据集
+### 1.3 微软实体识别数据集
+### 1.4 人民网实体识别数据集（98年）
+### 1.5 中药说明书实体识别数据集（“万创杯”中医药天池大数据竞赛）
+### 1.6 视频_音乐_图书数据集
+### 1.7 微博数据集

open_ner_data/MSRA/msra.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:01383bca37db7e2902d98f15d6a51842e143f3ef47b33db297788a1934de9950
+size 15374320

open_ner_data/MSRA/msra_train.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:40734813d10dfe333055daedbeb7ce3ba2398d1cd1d640144a6a11cf194f0a89
+size 13251833

open_ner_data/data_transfer.py

@@ -0,0 +1,331 @@
+#coding=utf-8
+import numpy as np
+import json
+import string
+import os
+import re
+from collections import defaultdict
+
+# 将人民日报数据集进行转换
+def transfer_data_0(source_file, target_file):
+    '''
+    人民日报数据格式：
+    1	迈向	vt	O	_
+    2	充满	vt	O	_
+    3	希望	n	O	_
+    4	的	ud	O	_
+    5	新	a	O	_
+    6	世纪	n	O	_
+    7	——	wp	O	_
+    8	一九九八年新年	t	DATE	_
+    9	讲话	n	O	_
+    10	(	wkz	O	_
+    '''
+    with open(source_file) as f, open(
+            target_file, "w+", encoding="utf-8") as g:
+        text = ""
+        entity_list = []  # {"entity_index": {"begin": 21, "end": 25}, "entity_type": "影视作品", "entity": "喜剧之王"}
+        lines = 0
+        for word_line in f:
+            if word_line != "\n":  # 是句子的词
+                # print(word_line)
+                word_split = word_line.strip().split("\t")
+                # print(word_split)
+                if word_split[3] != "O":
+                    entity_list.append({"entity_index": {"begin": len(text), "end": len(text + word_split[1])},
+                                        "entity_type": word_split[3], "entity": word_split[1]})
+                text += word_split[1]
+            else:  # 句子的结尾
+                g.write(json.dumps({"text": text, "entity_list": entity_list}, ensure_ascii=False) + "\n")
+                lines += 1
+                text = ""
+                entity_list = []
+                if lines == 1000:
+                    break
+    print("共有{}行".format(lines))
+
+
+# 将平常ner标注(微博、微软)数据转化为项目所需数据格式
+def transfer_data_1(source_file, target_file):
+    # 同时满足BIEO标注、BIO标注和BMESO标注
+    '''
+    将
+    男	B-PER.NOM /// B-PER
+    女	B-PER.NOM
+    必	O
+    看	O
+    的	O
+    微	O
+    博	O
+    花	O
+    心	O
+
+    我	O
+    参	O
+    与	O
+    了	O
+    南	B-GPE.NAM
+    都	I-GPE.NAM
+    标注类型转化为要求的数据格式
+    '''
+    with open(source_file, errors="ignore") as f, open(target_file, "w+", encoding="utf-8") as g:
+        text = ""
+        entity_list = [] # {"entity_index": {"begin": 21, "end": 25}, "entity_type": "影视作品", "entity": "喜剧之王"}
+        lines = 0
+        words_start = 0 # 词的开始边界
+        words_end = 0 # 词的结束边界
+        words_bool = None # 是否存在未加入的新词，存在的话设置为词的类型，默认没有
+        for word_line in f:
+            word_line = word_line.strip()
+            word_split = word_line.strip().split(" ")
+            if '' in word_split:
+                word_split.remove('')
+            if word_split: # 是句子的词
+                if len(word_split) == 1:
+                    word_split.insert(0, "、")
+                # print(word_split)
+                if (word_split[1].startswith("B") or word_split[1].startswith("S")) and not word_split[1].endswith("NOM"):
+                    if words_bool:
+                        entity_list.append({"entity_index": {"begin": words_start, "end": words_start + words_end},
+                                            "entity_type": words_bool,
+                                            "entity": text[words_start:words_start + words_end]})
+                    words_start = len(text)
+                    words_end = 1
+                    if "." in word_split[1]:
+                        words_bool = word_split[1][2:word_split[1].rfind(".")+1]
+                    else:
+                        words_bool = word_split[1][2:]
+                elif (word_split[1].startswith("M") or word_split[1].startswith("I") or word_split[1].startswith("E")) and not word_split[1].endswith("NOM"):
+                    words_end += 1
+                elif word_split[1] == "O" and words_bool:
+                    entity_list.append({"entity_index": {"begin": words_start, "end": words_start + words_end},
+                                        "entity_type": words_bool,
+                                        "entity": text[words_start:words_start + words_end]})
+                    words_bool = None
+                text += word_split[0]
+            else: # 句子的结尾
+                if words_bool:
+                    entity_list.append({"entity_index": {"begin": words_start, "end": words_start + words_end},
+                                        "entity_type": words_bool,
+                                        "entity": text[words_start:words_start + words_end]})
+                    words_bool = None
+                g.write(json.dumps({"text":text,"entity_list":entity_list}, ensure_ascii=False) + "\n")
+                lines += 1
+                text = ""
+                entity_list = []
+                # if lines == 1000:
+                #     break
+    print("共有{}行".format(lines))
+#
+# transfer_data_1("/home/liguocai/model_py36/data_diversity/product_testdata_kg/open_ner_data/source_data/ChineseNLPCorpus/NER/MSRA/dh_msra.txt",
+#                 "/home/liguocai/model_py36/data_diversity/product_testdata_kg/open_ner_data/msra_1000.txt")
+# transfer_data_1("/home/liguocai/model_py36/data_diversity/product_testdata_kg/open_ner_data/video_music_book_datasets/data/train.txt",
+#                 "/home/liguocai/model_py36/data_diversity/product_testdata_kg/open_ner_data/video_music_book_datasets/train.txt")
+# transfer_data_1("/home/liguocai/model_py36/data_diversity/product_testdata_kg/open_ner_data/video_music_book_datasets/data/valid.txt",
+#                 "/home/liguocai/model_py36/data_diversity/product_testdata_kg/open_ner_data/video_music_book_datasets/dev.txt")
+# transfer_data_1("/home/liguocai/model_py36/data_diversity/product_testdata_kg/open_ner_data/video_music_book_datasets/data/test.txt",
+#                 "/home/liguocai/model_py36/data_diversity/product_testdata_kg/open_ner_data/video_music_book_datasets/test.txt")
+# transfer_data_1("./ResumeNER/train.char.bmes", "./ResumeNER/train.txt")
+# transfer_data_1("./ResumeNER/dev.char.bmes", "./ResumeNER/dev.txt")
+# transfer_data_1("./ResumeNER/test.char.bmes", "./ResumeNER/test.txt")
+
+
+
+# boson ner数据格式转化
+def transfer_data_2(source_file, target_file):
+    '''
+    boson数据格式：
+    完成!!!!!!!!!!给大家看看 {{time:今天}}{{person_name:吕小珊}}要交大家 新手也可以简单上手!!! 上学也不会觉得奇怪的妆感喔^^ 大家加油喔~~!!!!!你的喜欢
+    会是{{person_name:吕小珊}} 最你的喜欢 会是{{person_name:吕小珊}} 最大的动力唷~~!!! 谢谢大家~~ 大的动力唷~~!!! 谢谢大家~~
+    '''
+    p = re.compile("({{.*?:.*?}})")
+    p_ = re.compile("{{.*?:(.*?)}}")
+    length = 0
+    with open(source_file) as f, open(target_file, "w+", encoding="utf-8") as g:
+        for s in f:
+            total_de = 0
+            entity_list = []
+
+            for item1, item2 in zip(p.finditer(s), p_.findall(s)):
+                # 替换
+                start = item1.start() - total_de
+                ss = s[start:item1.end() - total_de]
+                total_de += len(ss) - len(item2)
+                s = s.replace(ss, item2, 1)
+                item1.start() - total_de
+                entity_list.append({"entity_index": {"begin": start, "end": start + len(item2)},
+                                    "entity_type": ss[2:len(ss) - 3 - len(item2)], "entity": item2})
+
+            g.write(json.dumps({"text": s, "entity_list": entity_list}, ensure_ascii=False)+"\n")
+            length += 1
+            if length == 1000:
+                break
+        print("共有{}行".format(length))
+# transfer_data_1("/home/liguocai/model_py36/data_diversity/product_testdata_kg/open_ner_data/source_data/ChineseNLPCorpus/NER/boson/origindata.txt",
+#                 "/home/liguocai/model_py36/data_diversity/product_testdata_kg/open_ner_data/boson_1000.txt")
+
+
+# clue数据集转化
+def transfer_data_3(source_file, target_file):
+    '''
+    源数据：
+    {"text": "她写道：抗战胜利时我从重庆坐民联轮到南京，去中山陵瞻仰，也到秦淮河去过。然后就去北京了。", "label": {"address": {"重庆": [[11, 12]], "南京": [[18, 19]],
+    "北京": [[40, 41]]}, "scene": {"中山陵": [[22, 24]], "秦淮河": [[30, 32]]}}}
+    '''
+    with open(source_file) as f, open(target_file, "w+", encoding="utf-8") as g:
+        length = 0
+        for line in f:
+            line_json = json.loads(line)
+            text = line_json['text']
+            entity_list = []
+
+            if "label" in line_json.keys():
+                for label, e in line_json['label'].items():
+                    for e_name, e_index in e.items():
+                        entity_list.append({"entity_index": {"begin": e_index[0][0], "end":  e_index[0][1]+1},
+                                            "entity_type": label, "entity": e_name})
+
+            g.write(json.dumps({"text": text, "entity_list": entity_list}, ensure_ascii=False) + "\n")
+            length += 1
+            if length == 1000:
+                break
+
+        print("共有{}行".format(length))
+
+# transfer_data_3('./open_ner_data/cluener_public/dev.json', './open_ner_data/cluener_public/dev.txt')
+# transfer_data_3('./open_ner_data/cluener_public/train.json', './open_ner_data/cluener_public/train_1000.txt')
+# transfer_data_3('./open_ner_data/cluener_public/test.json', './open_ner_data/cluener_public/test.txt')
+
+# 将brat标注的文件转化为所需格式
+def transfer_data_4(source_file, test=False):
+    """
+    T1      DRUG_EFFICACY 1 5       补肾益肺
+    T2      DRUG_EFFICACY 6 10      益精助阳
+    T3      DRUG_EFFICACY 11 15     益气定喘
+    T4      SYMPTOM 23 27   精神倦怠
+    T5      SYNDROME 35 37  阴虚
+    T6      SYMPTOM 37 39   咳嗽
+    T7      SYMPTOM 39 41   体弱
+    """
+
+    lines = 0
+
+    map_dict = {"DRUG":"药品",
+                "DRUG_INGREDIENT":"药物成分",
+                "DISEASE":"疾病",
+                "SYMPTOM":"症状",
+                "SYNDROME":"证候",
+                "DISEASE_GROUP":"疾病分组",
+                "FOOD":"食物",
+                "FOOD_GROUP":"食物分组",
+                "PERSON_GROUP":"人群",
+                "DRUG_GROUP":"药品分组",
+                "DRUG_DOSAGE":"药物剂型",
+                "DRUG_TASTE":"药物性味",
+                "DRUG_EFFICACY":"中药功效"}
+
+    if not test:
+        file_list = []
+        for file_name in os.listdir(source_file):
+            if file_name.endswith(".ann"):
+                file_list.append(file_name[:-3])
+        with open(source_file[:source_file.rfind("/")+1] + "train.txt", "w+", encoding="utf-8") as f:
+            for file_name in file_list:
+                with open(os.path.join(source_file,file_name+"ann")) as w, open(os.path.join(source_file,file_name+"txt")) as g:
+                    text = g.read()
+                    entity_list = []
+                    for line in w:
+                        _, entity_type, begin, end, entity = line.strip().split()
+                        entity_type, begin, end = map_dict[entity_type], int(begin), int(end)
+                        entity_list.append({"entity_index": {"begin": begin, "end":  end},
+                                            "entity_type": entity_type, "entity": entity})
+                    f.write(json.dumps({"text": text, "entity_list": entity_list}, ensure_ascii=False) + "\n")
+                    lines += 1
+    else:
+        with open(source_file[:source_file.rfind("/") + 1] + "test.txt", "w+", encoding="utf-8") as f:
+            for file in os.listdir(source_file):
+                with open(os.path.join(source_file,file)) as g:
+                    text = g.read()
+                    f.write(json.dumps({"text": text, "entity_list": []}, ensure_ascii=False) + "\n")
+                    lines += 1
+
+    print("共有数据{}行".format(lines))
+
+# transfer_data_4("./open_ner_data/tianchi_yiyao/train", test=False)
+# transfer_data_4("./open_ner_data/tianchi_yiyao/chusai_xuanshou", test=True)
+
+# 依渡云数据集格式转化
+def transfer_data_5(source_file, target_file):
+    """
+    {"originalText": "，患者7月前因“下腹腹胀伴反酸”至我院就诊，完善相关检查，诊断“胃体胃窦癌(CT4N2M0,IIIB期)”，
+    建议先行化疗，患者及家属表示理解同意 ，遂于2015-5-26、2015-06-19、2015-07-13分别予XELOX
+    (希罗达 1250MG BID PO D1-14+奥沙利铂150MG IVDRIP Q3W)化疗三程,过程顺利，无明显副反应，
+    后于2015-08-24在全麻上行胃癌根治术（远端胃大切），术程顺利，术后预防感染支持对症等处理。，术后病理示：
+    胃中至低分化管状腺癌（LAUREN，分型：肠型），浸润至胃壁浆膜上层，可见神经束侵犯，未见明确脉管内癌栓；
+    肿瘤消退分级（MANDARD），：TRG4；网膜组织未见癌；LN（-）；YPT3N0M0，IIA期。术后恢复可，于2015-10-10、
+    开始采用XELOX化疗方案化疗（奥沙利铂150MG Q3W IVDRIP+卡培他滨1250MGBID*14天）一程，过程顺利。
+    现为行上程化疗来我院就诊，拟“胃癌综合治疗后” 收入我科。自下次出院以来，患者精神可，食欲尚可，大小便正常，
+    体重无明显上降。", "entities":
+    [{"end_pos": 10, "label_type": "解剖部位", "overlap": 0, "start_pos": 8},
+    {"end_pos": 11, "label_type": "解剖部位", "overlap": 0, "start_pos": 10},
+    {"label_type": "疾病和诊断", "overlap": 0, "start_pos": 32, "end_pos": 52},
+    {"end_pos": 118, "label_type": "药物", "overlap": 0, "start_pos": 115},
+    {"end_pos": 143, "label_type": "药物", "overlap": 0, "start_pos": 139},
+    {"label_type": "手术", "overlap": 0, "start_pos": 193, "end_pos": 206},
+    {"label_type": "疾病和诊断", "overlap": 0, "start_pos": 233, "end_pos": 257},
+    {"label_type": "解剖部位", "overlap": 0, "start_pos": 261, "end_pos": 262},
+    {"end_pos": 374, "label_type": "药 物", "overlap": 0, "start_pos": 370},
+    {"end_pos": 395, "label_type": "药物", "overlap": 0, "start_pos": 391},
+    {"label_type": "疾病和诊断", "overlap": 0, "start_pos": 432, "end_pos": 439}]}
+    """
+    with open(source_file, encoding="utf-8-sig") as f, open(target_file, "w+", encoding="utf-8") as g:
+        length = 0
+        error = 0
+        for line in f:
+            try:
+                line_json = json.loads(line)
+                entity_list = []
+                text = line_json["originalText"]
+                for entities in line_json["entities"]:
+                    entity_list.append({"entity_index": {"begin": entities["start_pos"],
+                                                         "end":  entities["end_pos"]},
+                                                "entity_type": entities["label_type"],
+                                        "entity": text[entities["start_pos"]:entities["end_pos"]]})
+                g.write(json.dumps({"text": text, "entity_list": entity_list}, ensure_ascii=False) + "\n")
+                length += 1
+            except:
+                error += 1
+        print("错误：{}个".format(error))
+        print("共有{}行".format(length))
+
+
+# 统计实体类型和个数
+def sta_entity(file, num=None):
+    sta_dict = defaultdict(int)
+    with open(file, encoding="utf-8") as f:
+        data_list = list(f.readlines())
+
+        length = len(data_list) if not num else len
+
+        entity_type = []
+        for line in data_list[:length]:
+            text_e = json.loads(line)
+            for e in text_e["entity_list"]:
+                if e["entity_type"] not in entity_type:
+                    entity_type.append(e["entity_type"])
+                sta_dict[e["entity_type"]] += 1
+
+        entity_type.sort()
+        print("实体类型：",entity_type)
+        print("实体类型及个数：", sta_dict)
+
+
+print("train1")
+# transfer_data_5("yidu-s4k/subtask1_training_part1.txt", "yidu-s4k/train1.txt")
+sta_entity("yidu-s4k/train1.txt")
+print("train2")
+transfer_data_5("yidu-s4k/subtask1_training_part2.txt", "yidu-s4k/train2.txt")
+sta_entity("yidu-s4k/train2.txt")
+print("test")
+transfer_data_5("yidu-s4k/subtask1_test_set_with_answer.json", "yidu-s4k/test.txt")
+sta_entity("yidu-s4k/test.txt")

open_ner_data/people_daily/people_daily_ner.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6d239843ff28d0012cd53c7a6c6fd7dbdcaf1e2e407ea2e1da4cc88009b1dd6d
+size 11709985

open_ner_data/tianchi_yiyao/chusai_xuanshou/1000.txt

@@ -0,0 +1 @@
+ 灌肠用。取本品50ml，将药液加温至38~39°C，臀部抬高10cm插管，肛管插入深度10~15cm。肛管插入后，讲管端套的熟料瓶颈部，加压挤入即可。灌入后膝胸卧位30分钟。每日一次，两周为一个疗程。月经干净后3~5天开始用药。  红虎灌肠液（50毫升装）-安徽天洋药业  清热解毒，化湿除带，祛瘀止痛，散结消癥，用于慢性盆腔炎所致小腹疼痛，腰骶酸痛，带下量多，或有发热 安徽天洋药业有限公司 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1001.txt

@@ -0,0 +1 @@
+ 云南永安制药有限公司  开水冲服。一次10克，一日3次。  孕妇禁用。糖尿病患者禁服。  每袋装12g(相当于原药材8g)。  非处方药物（甲类）  补血，活血，通络。用于月经量少、后错，血虚萎黄后错，血虚萎黄，风湿痹痛，肢体麻木糖尿病 尚不明确。 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1002.txt

@@ -0,0 +1 @@
+ 北京同仁堂科技发展股份有限公司制药厂  1.忌食辛辣，少进油腻。 2.感冒发热病人不宜服用。 3.有高血压、心脏病、肝病、糖尿病、肾病等慢性病严重者应在医师指导下服用。 4.伴有月经紊乱者，应在医师指导下服用。 5.眩晕症状较重者，应及时去医院就诊。 6.服药2周症状无缓解，应去医院就诊。 7.对本品过敏者禁用，过敏体质者慎用。 8.本品性状发生改变时禁止使用。 9.请将本品放在儿童不能接触的地方。 10.如正在使用其他药品，使用本品前请咨询医师或药师。  本品为浅黄色至棕黄色颗粒，气微香，味微苦。  滋养肝肾、宁心安神。用于更年期综合症属阴虚肝旺症，症见烘热汗出，头晕耳鸣，失眠多梦，五心烦热，腰背酸痛，大便干燥，心烦易怒，舌红少苔，脉弦细或弦细 开水冲服。一次1袋(12g)，一日3次。  如与其他药物同时使用可能会发生药物相互作用，详情请咨询医师或药师。  12g*10袋/盒  用于更年期综合症属阴虚肝旺症  铝塑复合膜包装，每袋装12克，每盒装10袋。  非处方药物（甲类）,中药保护品种二级  12g*10袋/盒  用于更年期综合症属阴虚肝旺更年期综合症气微香，味微苦。 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1003.txt

@@ -0,0 +1 @@
+ 口服。一次3粒，一日3次，3个月经周期为一疗程。  吉林省东北亚药业股份有限公司  月经期暂停服用。  用于子宫肌瘤气滞血瘀,症见经期延长，经量过多，经色紫黯有块，小腹或乳房胀痛等。  偶见服药初期胃脘不适。  如与其他药物同时使用可能会发生药物相互作用，详情请咨询医师或药师。  本品为硬胶囊，内容物为棕褐色的颗粒；气微腥，微苦。  铝塑泡罩包装，12粒*2板/盒。  每粒装0.45g  详见说明书  软坚散结?钛觯稣瘫尽Ｓ糜谧庸×觯脱?症见经期延长，经量过多，经色紫黯有块，小腹或乳房胀痛

open_ner_data/tianchi_yiyao/chusai_xuanshou/1004.txt

@@ -0,0 +1 @@
+ 滋阴清热，健脾养血。用于放环后引起的出血，月经提前量多或月经紊乱，腰骶酸痛，下腹坠痛，心烦易怒，手足心热 陕西步长高新制药有限公司  口服，一次5片，一日2次。  请遵医嘱。  尚不明确。  0.46g*3*15片 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1005.txt

@@ -0,0 +1 @@
+ 如与其他药物同时使用可能会发生药物相互作用，详情请咨询医师或药师。  开水冲服，一次14克，一日3次。  养血，调经，止痛。用于月经量少、后错，经期腹痛  健民集团叶开泰国药(随州)有限公司  1，忌食生冷食物。2，患有其他疾病者，应在医师指导下服用。3，平素月经正常，突然出现月经过少，或经期错后，应去医院就诊。4，治疗痛经，宜在经前3～5天开始服药，连服一周，如有生育要求应在医师指导下服用。5，服药后痛经不减轻，或重度痛经者，应到医院诊治。6，服药2周症状无缓解，应去医院就诊。7，对本品过敏者禁用，过敏体质者慎用。8，本品性状发生改变时禁止使用。9，请将本品放在儿童不能接触的地方。10，如正在使用其他药品，使用本品前请咨询医师或药师。  本品为妇科月经不调类非处方药药品。  养血，调经，止痛。用于月经量少、后错，经期腹痛。 养血，调经，止痛。用于月经量少、后错，经期腹痛 14g*5袋  非处方药物（乙类）,国家医保目录（乙类）  孕妇禁用。糖尿病者禁服。 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1006.txt

@@ -0,0 +1 @@
+ 每瓶装100ml;每瓶装200ml  尚不明确。  外用。用稀释10%溶液擦洗，重症可加大浓度；用牛尾线消毒棉球蘸取适量浓溶液置于阴道中治疗阴道炎，一日2次。  清热燥湿、止痒，广谱抗菌、抗病毒，抗炎镇痛抑制变态反应，用于各种细菌性、霉菌性、滴虫性外阴炎、阴道炎所致妇女阴部瘙痒、红肿，白带过多 陕西关爱制药有限公司  用于各种细菌性、霉菌性、滴虫性外阴炎、阴道炎所致妇女阴部瘙痒、红肿，白带过多 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1007.txt

@@ -0,0 +1 @@
+滋阴清热，固经止带。用于阴虚血热，月经先期，经血量多、色紫黑 口服。一次6克，一日2次。  非处方药物（甲类）,国家医保目录（乙类）  上海和黄药业有限公司 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1008.txt

@@ -0,0 +1 @@
+ 如与其他药物同时使用可能会发生药物相互作用，详情请咨询医师或药师。  清热解毒、燥湿杀虫，收敛止痒。用于各种病困所致的阴道炎 尚不明确。  2.5g*5粒  阴道给药，每次1粒，一日1次。睡前将栓剂放入阴道深处。  本品如遇高温天气，可能出现软化现象，只需放入阴凉环境或冰箱冷藏室中，恢复原状即可使用，对产品疗效无影响。  用于各种病因所致的阴道炎症  PVC/LDPE药用复合硬片包装；每盒5粒。  通药制药集团股份有限公司  尚不明确。  本品为紫红色的栓剂。 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1009.txt

@@ -0,0 +1 @@
+ 株洲千金药业股份有限公司  阴道给药。晚上临睡前将阴道给药器中的药物送入阴道深处。每次月经干净3天后开始用药，一次1支，一日一次，每个月经周期连续使用10天，持续两个月经周期为一个疗程。  本品为棕褐色凝胶；气芳香。  清热燥湿，祛瘀生肌。用于慢性宫颈炎祛瘀生肌。用于慢性宫颈炎之宫颈糜烂、中医辨证属于湿热瘀阻所致者，症见带下量多、色黄或白，腰腹坠胀色黄或白，腰腹坠胀，口苦咽干，舌红苔黄腻，脉弦或滑 偶见给药局部出现瘙痒、皮疹或疼痛，一般停药后可自行消失。  4g*3支(千金)  1.过敏体质者慎用。2.使用给药器勿用力太过，以免伤及阴道后穹窿等部位，3.本品适用范围不包括宫颈息肉，宫颈粘膜炎、宫颈糜囊肿，宫颈肥大患者，4.请将本品放在儿童不能接触的地方。  1.孕妇及月经期妇女禁用。2，对本品过敏者禁用。3.本品性状发生改变时禁用。  聚丙烯预灌封阴道用给药器包装。3支/盒。 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1010.txt

@@ -0,0 +1 @@
+ 山西澳迩药业有限公司  活血、祛瘀、止痛。用于产后恶露不行，少腹疼痛，也可试用于上节育环后引起的阴道流血，月经过多月经过多 如与其他药物同时使用可能会发生药物相互作用，详情请咨询医师或药师。  6g*12袋  1.收缩子宫：新生化颗粒使DNA含量和子宫利用葡萄糖能力增加，促进子宫蛋白质合成及子宫增生，以促进子宫收缩，从而起到止血并排出瘀血的目的。实验室研究表明，新生化颗粒能明显增加大鼠离体子宫的收缩张力、收缩频率和收缩振幅，且呈剂量依赖性关系。冲洗药液后，子宫活动仍可恢复到正常状态。2.镇痛：实验室研究表明，新生化颗粒能明显减少大鼠扭体次数。3.抗血小板凝聚及抗血栓抗血小板凝聚镇痛：实验室研究表明，新生化颗粒能明显减少大鼠扭体次数。3.抗血小板凝聚及抗血栓作用：新生化颗粒能抑制血小板聚集促进剂(H-SHT)产生。血液流变学表明，新生化颗粒通过降低血浆纤维蛋白原浓度，增加血小板细胞表面电荷，促进细胞解聚，降低血液粘度，达到抗血栓形成的作用。从而使瘀血不易凝固而利于排出。4.造血和抗贫血作用：新生化颗粒能促进血红蛋白(Hb)和红细胞(RBC)的生成。对造血干细胞(CFU—S)增值有显著的刺激作用，并能促进红系细胞分化。粒单细胞(CFU—D)、红系(BFU—E)祖细胞的产率均有明显升高作用。新生化颗粒同时还能抑制补体(c3b)与红细胞膜结合，降低补体溶血功能。5.改善微循环：增加子宫毛细血管流量，促进子宫修复。6.抗炎：新生化颗粒有很好的抗炎抑菌作用。体外试验表明，新生化颗粒对痢疾杆菌、大肠杆菌、绿脓杆菌、变形杆菌和金黄色葡萄球菌均有很好的抑菌作用。  热水冲服，一次1袋，一日2-3次。  用于产后恶露不行，少腹疼痛，也可用于上节育环后引起的阴道流血，月经过多  国家医保目录（乙类） 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1011.txt

@@ -0,0 +1 @@
+ 尚不明确。  每盒装10袋。  孕妇慎用。  本品为棕色或棕褐色颗粒；味甜、微苦味甜、微苦。  福建省泉州罗裳山制药厂  6g*10袋  口服。每次12g(2袋)，一日2次。  清热凉血，消肿止痛。用于盆腔炎、附件炎、子宫内膜炎等引起的带下、腹痛 孕妇慎用。 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1012.txt

@@ -0,0 +1 @@
+ 口服，一次2片，一日2次。  疏肝活血，调经止痛。用于痛经、月经量少、后错属气滞血瘀疏肝活血，调经止痛 用于痛经、月经量少、后错属气滞血瘀证者  1.忌食生冷食物、不宜洗凉水澡。<br/>2.患有其他疾病者,应在医师指导下服用。<br/>3.平素月经正常,突然出现月经量少,或月经错后,或阴道不规则出血应去医院就诊。<br/>4.经期或经后小腹隐痛喜按,痛经伴月经过多者均不宜选用。<br/>5.治疗痛经,宜在经前3～5天开始服药,连服1周。如有生育要求应在医师指导下服用。<br/>6.服药后痛经不减轻,或重度痛经者,应到医院诊治。<br/>7.对本品过敏者禁用,过敏体质者慎用。<br/>8.本品性状发生改变时禁止使用。<br/>9.请将本品放在儿童不能接触的地方。<br/>10.如正在服用其他药品,使用本品前请咨询医师或药师。  合肥今越制药有限公司  铝塑包装。12片/板×2板/盒。  0.5克*24片/盒  片剂(薄膜衣)  如与其他药物同时使用可能会发生药物相互作用，详情请咨询医师或药师。  孕妇禁用。  本品为薄膜衣片，除去包衣后显棕色；气微，味微苦。 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1013.txt

@@ -0,0 +1 @@
+ 温经散寒，活血止痛，主治寒瘀证所致或经期小腹疼痛，经血量少，经行不畅，血色紫暗有块，块下痛减，乳房胀痛，四肢不温或畏寒，小腹发冷，带下量多，舌质黯或有瘀点，苔白，脉沉紧等症.适用于原发性痛经 口服54;一次5粒54;一日3次54;月经前开始服药54;服用15天.连用3个月经周期.  尚不明确。  每粒装0.5g  陕西摩美得制药有限公司 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1014.txt

@@ -0,0 +1 @@
+ 本品为黑褐色颗粒；气香，味甜。  株洲千金药业股份有限公司  忌生冷辛辣，孕妇禁服。  开水冲服，一次12g，一日2次。  12g*10袋 补益气血，祛瘀生新。用于气血两虚兼血瘀证产后腹痛 动物试验表明，补血益母颗粒能使失血性贫血小鼠RBC、Hb恢复至正常水平;能对抗环磷酰胺损伤骨髓造血系统所致的血细胞减少，能使WBC、HB、RBC明显升高;且对环磷酰胺所致小鼠脾脏萎缩有明显的对抗作用;它对小鼠既具有活血作用又能缩短小鼠的凝血时间;提高小鼠巨噬细胞的吞噬功能和促进小鼠溶血素抗体的形成;促进小鼠腹腔绵羊红细胞的吸收;但对正常大鼠离体子宫平滑肌未显示出作用。  12g*10袋/盒。  1.忌食寒凉、生冷食物。2.感冒时不宜服用。3.平素月经正常，突然出现月经量少，或月经错后，或阴道不规则出血应去医院就诊。4.按照用法用量服用，长期服用应向医师咨询。5.服药二周症状无改善，应去医院就诊。6.对本品过敏者禁用，过敏体质者慎用。7.本品性状发生改变时禁止使用。8.请将本品放在儿童过敏体质者慎用。7.本品性状发生改变时禁止使用。8.请将本品放在儿童不能接触的地方。9.如正在使用其他药品，使用本品前请咨询医师或药师。  尚不明确。 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1015.txt

@@ -0,0 +1 @@
+ 15g*10袋  活血调经。用于月经量少，产后腹痛活血调经本品过敏者心脏病 祛瘀生新。用于月经量少、后错，经来腹痛  本品为棕黄色至棕褐色的颗粒；昧甜、微苦。  尚不明确。 孕妇禁用。  15g*10袋/盒。  四川逢春制药有限公司  1.忌食生冷食物。 2.气血两虚生冷食物。 2.气血两虚引起的月经量少，色淡质稀，伴有头晕心悸，疲乏无力等不宜选用本药。3.有高血压、心脏病、肾病、糖尿病或正在接受其他治疗的患者均应在医师指导下服用。 4.平素月经量正常，突然出现经量少，须去医院就诊。 5.青春期少女及更年期妇女应在医师指导下服药。 6.各种流产后腹痛伴有阴道出血，服药一周无效者应去医院就诊。7.按照用法用量服用，服药过程中出现不良反应应停药，并向医师咨询。 8.对本品过敏者禁用。  开水冲服，一次1袋，一日2次。  如与其他药物同时使用可能会发生药物相互作用，详情请咨询医师或药师。  非处方药物（乙类）,国家基本药物目录（2012） 

open_ner_data/tianchi_yiyao/chusai_xuanshou/1016.txt

@@ -0,0 +1 @@
+ 本品对前列腺F2a所致的大鼠子宫痉挛性收缩有一定的拮抗作用。此外，还有降低全血比粘度、血浆比粘度及红细胞压积，降低血小板释放因子等作用。  开水冲服。一次1袋（12g)，一日2次。月经前3天开始服药，连服7天或遵医嘱，三个经期为一个疗程。  铝塑复合膜，每袋装12g。  国家医保目录（乙类）  12g*6袋  活血化瘀、温经通脉、理气止痛。用于气滞寒凝血瘀活血化瘀、温经通脉、理气止痛。用于气滞寒凝血瘀所致的痛经。证见行经小腹胀痛或冷痛，经行不畅冷痛，经行不畅，经血暗有血块，或乳房胀痛，或胸闷，或手足不温，舌暗或有瘀斑 尚不明确。  北京长城制药厂  内血虚内热者忌用。  本品为棕色的颗粒；气微、味甜、微苦。  月经过多，月经提前者慎用。忌生冷。