Nutzung von Transfer-Learning basierten Ansätzen zur Textanalyse [German]

By Timo Mueller

Studienarbeit aus dem Jahr 2020 im Fachbereich Informatik - Sonstiges, Note: 1,1, Hochschule M nchen, Veranstaltung: Datenbanken, Sprache: Deutsch, Abstract: Transfer Learning schafft es durch vortrainierte Modelle komplexe neuronale Zusammenh nge abzubilden. Aus einem bereits fertig trainierten Korpus k nnen Ergebnisse auf neue Themengebiete bertragen werden. Anfangs wurde diese Technologie haupts chlich zur Bildanalyse eingesetzt, doch in den letzten Jahren gewann Transfer Learning auch im Bereich der Textverarbeitung immer mehr an Bedeutung. Das Ziel dieser Forschungsarbeit ist es, eine detaillierte Vermittlung des aktuellen Stands der Wissenschaft zu liefern. Hierbei wird neben einem grundlegenden berblick ber k nstliche neuronale Netzwerke zun chst ein Verst ndnis f r Transfer Learning vermittelt, in dem die Einsatzgebiete, Herausforderungen und Risiken unterschiedlicher Transfer Learning Strategien aufgezeigt werden. Insbesondere wird die spezielle Anwendung BERT ausf hrlich evaluiert und nicht nur deren Entwicklung, sondern auch die Funktionsweise er rtert. BERT, Bidirectional Encoder Representations from Transformers, wurde 2018 von Google ver ffentlicht und gilt als Fundament f r eine neue Art der Textverarbeitung. Damit BERT im Kontext der Textanalyse eine objektive Einordnung erf hrt, werden differenzierte Modelle wie Doc2Vec und GloVe unter die Lupe genommen, um zus tzliche Blickwinkel auf Transfer Learning zu erschlie en. Diese einzelnen Modelle k nnen mit Hilfe von Benchmark-Methoden untereinander verglichen werden. Dabei werden neben dem General Language Understanding Evaluation (GLUE) Benchmark, ebenfalls Analyseaufgaben, wie SQuAD und SWAG erl utert und die einzelnen Modelle auf deren Rangliste miteinander in Konkurrenz gesetzt. Diese Benchmark-Methoden sind ein Zusammenschluss von einzelnen Ressourcen, die zum trainieren, analysieren und bewerten von Systemen zum Verst ndnis nat rlicher Sprachen, wie BERT, dienen. Abgerundet wird die Studien

• Format: Paperback
• Language: German
• ISBN: 3346276899
• ISBN13: 9783346276896
• Release Date: December 2020
• Publisher: Grin Verlag
• Length: 52 Pages
• Weight: 0.18 lbs.
• Dimensions: 0.1" x 5.8" x 8.3"