Maschinen könnten innerhalb eines Jahres die Welt übernehmen;
Aber das Erstellen von Reimen flößt uns die meiste Angst ein!
Glücklicherweise sind vortrainierte neuronale Netze einfach anzuwenden.
Mit großem Stolz stellen wir unseren neuen Assistenten vor: Reimen mit KI.
Der ImageNet-Moment von NLP mag 2018 gekommen sein, aber das Ökosystem rund um NLP-Modelle ist 2019 wirklich gereift. Viele dieser Modelle (BERT, GPT-2, Transformer-XL, DistilBERT usw.) sind für Ihre Anwendungsfälle leicht zu verwenden. Unser Dienst verwendet BERT, um uns bei unseren Reimen zu helfen.
Sprachmodellierung hilft modernen Modellen, Sprachen zu verstehen, bevor sie Aufgaben wie Sentimentanalyse oder Übersetzung lösen. Die Maskierung, bei der das Modell versucht, ein Wort vorherzusagen, das in einem Satz verborgen ist, ist eine der Innovationen von BERT. Wir können sie nutzen, um uns beim Reimen zu helfen, indem wir das Reimen als Aufgabe zur Vorhersage fehlender Wörter umformulieren.
Unser Problem umfasst mehrere Masken: Wir kennen den ersten Satz und das letzte Wort des zweiten Satzes. Zum Beispiel:
Machines will take over the world soon
... [MASK] [MASK] [MASK] [MASK] [MASK] [MASK] [MASK] [MASK] moon
Inspiriert von BERT has a Mouth, and It Must Speak, lassen wir BERT zuerst die [MASK]'s ausfüllen und nehmen dann zufällig neue Token. Einige Beispielreime aus unserem Modell:
Machines will take over the world soon
... with gods fighting gods on the moon... as humanity rises to the full moon... with Hong Kong stuck on the moon
Das sieht schon ziemlich gut aus, aber wir brauchen eine Lösung, die die Menschen nutzen können!
Glücklicherweise ist die Erstellung einer End-to-End-Lösung für maschinelles Lernen ziemlich einfach. Die
Ein paar gut investierte Tage für uns werden Ihnen hoffentlich viel Schmerz ersparen. Sehen Sie sich unseren Code auf GitHub an!
Möchten Sie mehr praktische Erfahrung mit Deep Learning und NLP sammeln? Besuchen Sie einen unserer Kurse:
Verfasst von
Henk Griffioen
Unsere Ideen
Weitere Blogs
Contact