Das Ziel des Projektes bestand darin, automatische Textzusammenfassungen unter der Verwendung eines neuronalen Netzes zu erzeugen. Für die Erzeugung, das Training und die Anwendung des neuronalen Netztes wurde DL4J (https://deeplearning4j.org/) verwendet, eine Library für Anwendungen des Deeplearning in Java. Darüber hinaus wurden an externen Quellen die Stanford NLP Library (https://nlp.stanford.edu/), sowie ein über die Machine Learning Platform Kaggle (www.kaggle.com) bezogenes Korpus verwendet. Da die Zusammenfassungen im verwendeten Korpus manuell erstellt sind, wurde ein Distanzmaß zur späteren Evaluierung der erstellten Zusammenfassungen verwendet, um die Ergebnisse vergleichbar zu machen.
Zur Verwendung des Projektes wird zur Zeit die IDE Intellij IDEA (getestet mit 2017.3.3) benötigt. Zusätzlich wird Java 8 von Oracle benötigt sowie Maven (getestet mit 3.3.9).
Das Programm Textsummarization kann über GitHub heruntergeladen werden (git clone https://github.com/kenoboss/TextSummarization). Momentan ist das Projekt nicht öffentlich zugänglich,
daher bitten wir Sie ein Issue zu erstellen mit einem kurzen formlosen Schreiben zum Hinzufügen zu dem Projekt.
Die Bibliotheken von DL4J und Stanford sollten automatisch heruntergeladen werden, sobald das Projekt in Intellij als Maven Projekt importiert wurde. Falls dies nicht der Fall sein sollte,
ziehen Sie die Intellij Dokumentation (https://www.jetbrains.com/help/idea/maven-importing.html) hinzu.
Zum Starten der grafischen Oberfläche starten Sie die Klasse GUIForSum in Intellij.
Um ein neues Neuronales Netz zu trainieren müssen aus einem Textkorpus Featurevectoren erzeugt werden. Zum Erzeugen dieser Featurevectoren starten Sie die Klasse CreateCorpus.
Das Die Texte in dem Korpus müssen momentan in der englischen Sprache vorliegen und folgendes CSV-Format besitzen:
author;date;headlines;url;summary;text;
Die einzelnen Spalten werden mit ; getrennt. Die Korpusdatei muss als corpus.csvbenannt sein und sich in folgendem Verzeichnis befinden /TextSummarization/src/main/resources.
Um nun das eigentliche Training starten zu können, starten die die Datei NeuralNetwork. Das Training dauert bei einer Korpusgröße von ca. 4500 Texten ca. 5 Minuten auf einem Computer mit folgenden Spezifikationen:
Bei dem Training wird das Modell des ursprünglichen Neuronalen Netzes überspielt. Fall Sie als das ursprüngliche wieder verwenden möchten, können Sie dieses jederzeit aus dem GitHub-Repository herunterladen.
Zur Abstraktion und Evaluation der einzelnen Sätze eines Textes wurde auf Grundlage des oben genannten Artikels ein Set aus Features ausgewählt, die den jeweiligen Satz repräsentieren. Folgende Merkmale wurden dazu herangezogen:
*Als thematische Wörter wurden die 10 häufigsten Wörter des Textes definiert.
Das Korpus besteht aus einer .csv Datei, welche den Author, das Erscheinungsdatum, den Titel, die Quelle, die Zusammenfassung und den Text beinhaltet. Auf Basis der .csv Datei wird ein Corpus Objekt angelegt, welches Entries beinhaltet, die die Zeilen der csv. Datei repräsentieren, dabei aber zusätzlich mit Informationen angereichert sind. An dieser Stelle kommt die Stanford NLP Library zum Einsatz, die zusätzlich eine tokenisierte und lemmatisierte Repräsentation der Überschrift, des Textes und der Zusammenfassung enthält. Darüber hinaus werden die Inhaltswörter des Textes und der Überschrift abgespeichert. Die einzelnen Sätze werde mit der Zusammenfassung verglichen und aufgrund der euklidischen Distanz zwischen Satz und Zusammenfassung wird ein Label vergeben, ob der jeweilige Satz in eine Zusammenfassung gehört, oder nicht. Zusätzlich werden die in 1) beschriebenen Feature Vektoren für die jeweiligen Sätze erstellt und dem Korpus hinzugefügt.
Mit den extrahierten Featurevektoren und den Satzlabels wird nun ein Neuronales Netz trainiert (Input-, Hidden- und Outputlayer). Die Anzahl der Neuronen in den Schichten beträgt 5 (=Anzahl Features), 10 und 2(=Anzahl Labels). Das Korpus wurde hierfür in ein Trainings- und ein Testset aufgeteilt, die jeweils gelabelt sind. Auf Grundlage der Sets werden im Trainings- und Evaluationsprozess die Gewichte eingestellt, die für die spätere Klassifikation verwendet werden. Das trainierte Netz wird gespeichert und kann nun verwendet werden. Neue Texte, die zusammengefasst werden sollen, werden dafür zunächst wieder wie in 2) beschrieben verarbeitet und mit Informationen angereichert. Der Output des neuronalen Netzes bestimmt schließlich, ob der aktuelle Satz wichtig genug für die Zusammenfassung ist.
Das Neuronale Netz wurde als Rekurrentes neuronales Netz mit einer Hardsigmoid-Funktion als Aktivierungsfunktion und mit XAVIER_FAN_IN als Initialgewicht für die Kanten zwischen den Neuronen konfiguriert.
Zur leichteren Bedienung wurde eine GUI entwickelt, die es ermöglicht, einen Text mit Überschrift einzugeben, diesen zusammenfassen zu lassen und die Zusammenfassung anzeigen zu lassen.
Examples labeled as 0 classified by model as 0: 6417 times
Examples labeled as 0 classified by model as 1: 2737 times
Examples labeled as 1 classified by model as 0: 3429 times
Examples labeled as 1 classified by model as 1: 7118 times
==========================Scores========================================
Number of classes: 2
Accuracy: 0,6870
Precision: 0,6870
Recall: 0,6879
F1 Score: 0,6978
> sudo -i
> java -jar textsummarisation-1.0.jar > model/stats/log.txt