Mysam: Arabic tags manager, ميسم: إدارة الوسوم العربية

تسيير وسوم الكلمات العربية في مجال المعالجة الآلية للغة، ترميز وتفكيك هذه المكتبة توفر سكريبت خاصا بترميز وسوم الكلمات (الخصائص الصرفية والنحوية والدلالية) في عبارة وسم مختصرة على شكل سلسلة حروف قصيرة مرمّزة نسميها سلسلة الوسوم. يمكن التحويل بين قائمة الوسوم وسلسة الوسوم المختص يمكن الاستفادة من هذه المكتبة من أجل ترميز الوسوم وفك ترميزها، سنستعملها في :

• التحليل الصرفي (مكتبة قلصادي )
• التحليل النحوي ( مكتبة ثعلب )
• التشكيل ( برنامج مشكالبرنامج مشكال برنامج مشكال )
• التدقيق اللغوي النحوي (LanguageTool).

كما تقدّم خدمة متميزة في الإعراب بالطريقة القديمة

• قائمة الوسوم : Noun, جامد, مضاف, مجرور, متحرك, ينون
• سلسلة الوسوم المختصرة [N--;--I-;---H;----]
• جملة الإعراب {اسم مجرور وهو مضاف، والضمير المتصل مبني في محل جر مضاف إليه}

هذه ليست مكتبة للتوسيم، بل لإدارة الوسوم في معالجة اللغة

Manage arabic words tags, encode, decode This library provides a script to encode POS tags (Words features : morphology, syntax, semantic), as a brief tag string called tag string. We can convert between tag list <==> coded tag string. We plan to use it in:

• Morphology analysis (Qalsadi library )
• Syntactic analysis ( Thaalab Library )
• Tashkeel ( Mishkal Mishkal-site )
• LanguageTool - Style and Grammar Checker LanguageTool.

It provides a special feature, make traditional Inflection.

The conversion can be do like:

• Tags list: Noun, جامد, مضاف, مجرور, متحرك, ينون
• Encoded tag string [N--;--I-;---H;----]
• Inflection phrase {اسم مجرور وهو مضاف، والضمير المتصل مبني في محل جر مضاف إليه}

This not a Tagger library, but, a tags mangger for NLP

Tagging System description

You can look at tagging descripton on doc/tagset.md

Developpers: Taha Zerrouki: http://tahadz.com taha dot zerrouki at gmail dot com

Citation

If you would cite it in academic work, can you use this citation

T. Zerrouki‏, mysam-tagmanager,  Arabic Word Tagger,
  https://pypi.python.org/pypi/mysam-tagmanager/, 2018

or in bibtex format

@misc{zerrouki2018mysam,
  title={mysam-tagmanager : Arabic Word Tagger},
  author={Zerrouki, Taha},
  url={https://pypi.python.org/pypi/mysam-tagmanager,
  year={2018}
}

مزايا

• ترميز المزايا إلى وسم موحد مختصر
• تفكيك الوسم إلى خصائصه
• توليد الإعراب حسب الطريق التقليدية

Features

• Encode features to an unified tag string
• Encode unified tag string to a list of features
• Generate a traditional inflection style

Applications

• Text summarizing.
• Sentences identification.
• Grammar analysis.
• Morphological analysis.

تطبيقات

• التنقيب عن المعلومات.
• التعرف على الجمل.
• التحليل النحوي.
• تسريع التحليل الصرفي.

Demo جرّب

يمكن التجربة على موقع مشكال ، اختر تشكيل، ثم مرّر الفأرة على الكلمة لرؤية التلميح

You can test it on Mishkal Site, choose: Tashkeel, and move mouse over word to get hint.

Installation

pip install mysam-tagmanager

Usage

import mysam.tagmaker as tagmaker

Example

Test load configuration

import pandas as pd

import mysam.tagconfig as tagconfig
import mysam.tag_const as tag_const

configuer = tagconfig.tagConfig()
configuer.load_config()
# display
df = pd.DataFrame(configuer.tagsdict)
print('****tagdict ****')
print(df)
*****Result *****
****tagdict ****
                 اسم        Noun         فعل        Verb        أداة  ...  1st person       مخاطب  2nd person        غائب  3rd person
part               1           1           1           1           1  ...           4           4           4           4           4
pos                1           1           1           1           1  ...           4           4           4           4           4
attr       word_type   word_type   word_type   word_type   word_type  ...      person      person      person      person      person
ar_attr   نوع الكلمة  نوع الكلمة  نوع الكلمة  نوع الكلمة  نوع الكلمة  ...         شخص         شخص         شخص         شخص         شخص
code               n           n           V           V           T  ...           I           Y           Y           H           H
value           Noun        Noun        Verb        Verb        Tool  ...  1st person  2nd person  2nd person  3rd person  3rd person
ar_value         اسم         اسم         فعل         فعل        أداة  ...       متكلم       مخاطب       مخاطب        غائب        غائب
inflect          اسم         اسم         فعل         فعل         حرف  ...                                                            

[8 rows x 95 columns]
....
....

You can load a specific config file by passing parameter to load_conf. If the file doesn't exist or failed to be open, the default config is loaded.

configuer = tagconfig.tagConfig()
configuer.load_config("tag.config")

If you want to know if the input file is opened, fix 'debug' parameter to 'True'

If you want to know if the input file is open, fix 'debug' parameter to 'True'

configuer = tagconfig.tagConfig()
configuer.load_config("tag.config", debug=True)

Test call tagmaker

import mysam.tagcoder
# given tags as list    
taglists = [[u'اسم', u'هاء', u'مجرور',],
        u'تعريف::مرفوع:متحرك:ينون:::'.split(":"),
        ]
tgcoder = mysam.tagcoder.tagCoder()
for taglist in taglists:
    # encode
    tagcode = tgcoder.encode(taglist)
    print("tags list:", u";".join(taglist))
    print("tagcode:", tagcode)
    # decode a tag code string into (key, values)
    print("decode:", tgcoder.decode(tagcode))

**** result ****
tags list: اسم;هاء;مجرور
tagcode: N--;------I;---
decode: [('نوع الكلمة', 'اسم'), ('خاصية', 'لاشيء'), ('جنس', 'لاشيء'), ('عدد', 'لاشيء'), ('شخص', 'لاشيء'), ('علامة', 'لاشيء'), ('زمن', 'لاشيء'), ('بناء', 'لاشيء'), ('إعراب', 'مجرور'), ('عطف', 'لاشيء'), ('استقبال', 'لاشيء'), ('ضمير متصل', 'لاشيء')]
tags list: تعريف;;مرفوع;متحرك;ينون;;;
tagcode: ---;------U;--L
decode: [('نوع الكلمة', 'لاشيء'), ('خاصية', 'لاشيء'), ('جنس', 'لاشيء'), ('عدد', 'لاشيء'), ('شخص', 'لاشيء'), ('علامة', 'لاشيء'), ('زمن', 'لاشيء'), ('بناء', 'لاشيء'), ('إعراب', 'مرفوع'), ('عطف', 'لاشيء'), ('استقبال', 'لاشيء'), ('تعريف', 'معرفة')]

Exmaple for inflect

import mysam.taginflector
tag_maker = mysam.taginflector.tagInflector()
word = "يَسْتَعْمِلُونَهَا"
tagcode = 'V-1;M3H-faU;W-H'
print(tag_maker.inflect(tagcode))
**** result ****
فعل مضارع   مرفوع وعلامة رفعه ثبوت النون لأنه من الأفعال الخمسة  والواو: ضمير متصل مبني في محل رفع فاعل والضمير المتصل مبني في محل نصب مفعول به

Exmaple for add tag

Add a new tag to existing tags string code

import mysam.tagcoder
tag_coder = mysam.tagcoder.tagCoder()
tagcode = 'V-0;M1H-faU;W--'
tag = "ضمير متصل"
print(tag_coder.add_tag(tag, tagcode))
**** result ****
V-0;M1H-faU;W-H

Exmaple for remove tag

Remove and a tag from existing tags string code

import mysam.tagcoder
tag_coder = mysam.tagcoder.tagCoder()
tagcode = 'V-0;M1H-faU;W-H'
tag = "ضمير متصل"
print(tag_coder.remove_tag(tag, tagcode))
**** result ****
V-0;M1H-faU;W--

Exmaple for has tag

import mysam.tagcoder
tag_coder = mysam.tagcoder.tagCoder()
tags = ['اسم', 'مجرور', 'مذكر', "مفرد", "واو"]
tagcode = tag_coder.encode(tags)
print(tagcode)
tag_search = u"مجرور"
print(tag_coder.has_tag(tag_search, tagcode))
tag_search = u"فعل"
print(tag_coder.has_tag(tag_search, tagcode))
**** result ****
N--;M1----I;---
True
False