[PYTHON] [Umfrage] Kaggle --Quora 5. Platz Lösungszusammenfassung

Kaggle - Dies ist ein Forschungsartikel über die 5. Platzlösung [^ 2] von Quora Question Pairs [^ 1].

Titel: [5.] 5. Platz Lösungszusammenfassung Author: Faron, KazAnova Discussion URL: https://www.kaggle.com/c/quora-question-pairs/discussion/34349 Code (an das Forum angehängt): https://kaggle2.blob.core.windows.net/forum-message-attachments/190488/6625/mark_dodgie_qs_in_test.py

Summary

--Lernen Sie mehr als 600 Funktionen mit XGBoost

Die Merkmale von 25 oder mehr sind die vorhergesagten Werte des Modells auf der rechten Seite (LightGBM, NN, LSTM, SGD).
Überstichprobe positiver Beispiele auf ca. 0,13.

NLP

Extrahieren Sie Merkmalsmengen mit verschiedenen Methoden

Aus vorverarbeitetem Text extrahiert --Original --Frage --Stemming-Prozess
Textreinigung
Stoppt nur das Wort
Stoppt das Entfernen von Wörtern
Durch Aggregation von Token extrahiert
Gelegentliche / nicht übliche Token
Anzahl der Token
Die längste Teilzeichenfolge, die beiden Fragen gemeinsam ist
Falsche Grammatik und Interpunktion
Gelerntes Glück
Word2Vec
Spacy --Doc2Vec hat nicht geholfen
PyLucene [^ 3] war ebenfalls nutzlos
Die Rechtschreibprüfung hat dazu beigetragen, zufällige Wörter in den Testdaten zu entfernen (bereit, es schwierig zu machen, festzustellen, ob es sich um Duplikate handelt?)
Der Satz mit diesem zufälligen Wort war grammatikalisch und logisch falsch.

Diagrammstruktur

Die Eigenschaften des Diagramms mit jeder Frage als Knoten und den Fragen 1 und 2 als Kanten waren wertvoll.

Anzahl der Fragen, die beiden Fragen gemeinsam sind
Anzahl der eindeutigen Fragen
Anzahl der Pfade der Länge n zwischen Frage 1 und 2
Maximale Anzahl von Bächen
Anzahl der Zutaten
Wenn y (q1, q3) = y (q2, q3) = a, dann ist y (q1, q2) = a

Andere Eigenschaften

Da die Methode zur Herstellung negativer Beispiele künstlich war, führten die folgenden Merkmalsmengen ebenfalls zu einer Verbesserung.

min(qid1, qid2)
abs(qid1 - qid2)
Abweichung vom Index, wenn alle Texte sortiert sind

References