[PYTHON] Kaggle Facial Keypoints Detection

Überblick über den Wettbewerb

In diesem Wettbewerb werden die x- und y-Koordinaten der 15 Teile, die das Gesicht charakterisieren, als Trainingsdaten für jede der 7049-Gesichtsbilddaten angegeben. (Beispiel: x-Koordinate der Mitte des linken Auges, y-Koordinate der Mitte des rechten Auges usw.) Es lernt diese Daten und gibt den Bildern im Testsatz die Koordinaten der Teile an, die das Gesicht charakterisieren.

Ich werde sofort anfangen.

Ausführungscode


import pandas as pd
import numpy as np
import zipfile
import tensorflow as tf

Daten angegeben

Trainingsdaten

Entpacken Sie die Zip-Datei und öffnen Sie sie.

Ausführungscode


with zipfile.ZipFile('training.zip') as existing_zip:
    with existing_zip.open('training.csv') as traincsv:
        train=pd.read_csv(traincsv)
train
left_eye_center_x left_eye_center_y right_eye_center_x right_eye_center_y ... mouth_center_top_lip_y mouth_center_bottom_lip_x mouth_center_bottom_lip_y Image
0 6.033564 39.002274 30.227008 36.421678 ... 72.935459 43.130707 84.485774 238 236 237 238 240 240 239 241 241 243 240 23...
1 64.332936 34.970077 29.949277 33.448715 ... 70.266553 45.467915 85.480170 219 215 204 196 204 211 212 200 180 168 178 19...
... ... ... ... ... ... ... ... ... ...
7047 70.965082 39.853666 30.543285 40.772339 ... NaN 50.065186 79.586447 254 254 254 254 254 238 193 145 121 118 119 10...
7048 66.938311 43.424510 31.096059 39.528604 ... NaN 45.900480 82.773096 53 62 67 76 86 91 97 105 105 106 107 108 112 1...

Es sind Daten von 7049 × 31. Die letzte Spalte der Daten sind die Bilddaten, und die anderen Teile sind die x- und y-Koordinaten, die den Teil mit der Fläche angeben. Es scheinen auch Werte zu fehlen. Wie viele sind es?

Ausführungscode


train.isnull().sum()

output


left_eye_center_x              10
left_eye_center_y              10
right_eye_center_x             13
right_eye_center_y             13
left_eye_inner_corner_x      4778
left_eye_inner_corner_y      4778
left_eye_outer_corner_x      4782
left_eye_outer_corner_y      4782
right_eye_inner_corner_x     4781
right_eye_inner_corner_y     4781
right_eye_outer_corner_x     4781
right_eye_outer_corner_y     4781
left_eyebrow_inner_end_x     4779
left_eyebrow_inner_end_y     4779
left_eyebrow_outer_end_x     4824
left_eyebrow_outer_end_y     4824
right_eyebrow_inner_end_x    4779
right_eyebrow_inner_end_y    4779
right_eyebrow_outer_end_x    4813
right_eyebrow_outer_end_y    4813
nose_tip_x                      0
nose_tip_y                      0
mouth_left_corner_x          4780
mouth_left_corner_y          4780
mouth_right_corner_x         4779
mouth_right_corner_y         4779
mouth_center_top_lip_x       4774
mouth_center_top_lip_y       4774
mouth_center_bottom_lip_x      33
mouth_center_bottom_lip_y      33
Image                           0

Es gibt ein Durcheinander ...

Testdaten

Dadurch wird auch die Zip-Datei entpackt und geöffnet.

Ausführungscode


with zipfile.ZipFile('test.zip') as existing_zip:
    with existing_zip.open('test.csv') as testcsv:
        test=pd.read_csv(testcsv)
test
ImageId Image
0 1 182 183 182 182 180 180 176 169 156 137 124 10...
1 2 76 87 81 72 65 59 64 76 69 42 31 38 49 58 58 4...
2 3 177 176 174 170 169 169 168 166 166 166 161 14...
3 4 176 174 174 175 174 174 176 176 175 171 165 15...
... ... ...
1780 1781 28 28 29 30 31 32 33 34 39 44 46 46 49 54 61 7...
1781 1782 104 95 71 57 46 52 65 70 70 67 76 72 69 69 72 ...
1782 1783 63 61 64 66 66 64 65 70 69 70 77 83 63 34 22 2...

Dies sind 1783 Bilddaten.

Format der einzureichenden Datei

Es werden zwei weitere CSV-Dateien angegeben, hier wird jedoch das Format der zu übermittelnden Datei angezeigt.

Ausführungscode


df=pd.read_csv("IdLookupTable.csv")
sample=pd.read_csv("SampleSubmission.csv")

Ausführungscode


df
RowId ImageId FeatureName Location
0 1 1 left_eye_center_x NaN
1 2 1 left_eye_center_y NaN
2 3 1 right_eye_center_x NaN
3 4 1 right_eye_center_y NaN
4 5 1 left_eye_inner_corner_x NaN
... ... ... ... ...
27119 27120 1783 right_eye_center_y NaN
27120 27121 1783 nose_tip_x NaN
27121 27122 1783 nose_tip_y NaN
27122 27123 1783 mouth_center_bottom_lip_x NaN
27123 27124 1783 mouth_center_bottom_lip_y NaN

IdLookupTable.csv zeigt die Koordinaten an, die Sie für jedes der 1783 Bilder darstellen möchten. Der schwierige Teil dieses Wettbewerbs besteht darin, dass die Trainingsdaten die Koordinaten von 30 Gesichtsteilen angeben, Sie jedoch nicht unbedingt alle Koordinaten für das Bild in den Testdaten vorhersagen müssen.

Überprüfen Sie insbesondere die Nummer jeder Koordinate, die in der übermittelten Datei enthalten ist.

Ausführungscode


df["FeatureName"].value_counts()

output


nose_tip_y                   1783
nose_tip_x                   1783
left_eye_center_x            1782
right_eye_center_y           1782
left_eye_center_y            1782
right_eye_center_x           1782
mouth_center_bottom_lip_x    1778
mouth_center_bottom_lip_y    1778
mouth_left_corner_x           590
mouth_center_top_lip_y        590
mouth_left_corner_y           590
mouth_center_top_lip_x        590
left_eye_outer_corner_x       589
left_eye_outer_corner_y       589
right_eye_inner_corner_y      589
right_eye_inner_corner_x      589
left_eye_inner_corner_y       588
right_eye_outer_corner_x      588
right_eye_outer_corner_y      588
left_eye_inner_corner_x       588
mouth_right_corner_x          587
mouth_right_corner_y          587
left_eyebrow_inner_end_x      585
right_eyebrow_inner_end_x     585
left_eyebrow_inner_end_y      585
right_eyebrow_inner_end_y     585
left_eyebrow_outer_end_x      574
left_eyebrow_outer_end_y      574
right_eyebrow_outer_end_x     572
right_eyebrow_outer_end_y     572

Auf diese Weise variieren die erforderlichen Koordinaten unregelmäßig.

Als nächstes folgt eine Beispielübermittlungsdatei.

Ausführungscode


sample
RowId Location
0 1 0
1 2 0
2 3 0
3 4 0
4 5 0
... ... ...
27119 27120 0
27120 27121 0
27121 27122 0
27122 27123 0
27123 27124 0

Die zu übermittelnden Daten sind einfach die Zeilennummer und die 27124-Koordinatenwerte.

Formung von Trainingsdaten

Dies ist natürlich der Hauptteil des Wettbewerbs. Extrahieren Sie zunächst nur die Bilddaten aus train.csv und test.csv und machen Sie daraus ein numpy-Array. Wenn Sie die extrahierten Bilddaten in ein Numpy-Array konvertieren, wird empfohlen, ein leeres Array vorzubereiten und nacheinander zu ersetzen.

Ausführungscode


x_train=np.empty((7049,96,96,1))
x_test=np.empty((1783,96,96,1))

Ausführungscode


for i in range(7049):
    train0=train["Image"][i].split(" ")     #Extrahieren Sie das durch Leerzeichen getrennte i-te Bildarray
    train1=[int(x) for x in train0]         #Konvertieren Sie jeden in den Typ int und speichern Sie ihn in der Liste
    train2=np.array(train1,dtype="float")   #Liste in Numpy-Array konvertieren
    train3=train2.reshape(96,96,1)          #Formen Sie das Array in 96x96x1
    x_train[i]=train3                       #Wird als i-tes Element eines leeren Numpy-Arrays zugewiesen

for i in range(1783):
    test0=test["Image"][i].split(" ")
    test1=[int(x) for x in test0]
    test2=np.array(test1,dtype="float")
    test3=test2.reshape(96,96,1)    
    x_test[i]=test3

Ausführungscode


x_train =x_train / 255
x_test = x_test /255

Sei y_train derjenige, bei dem die Bildspalte aus train.csv entfernt wurde.

Ausführungscode


y_train=train.drop(['Image'],axis=1)

Behandeln Sie die fehlenden Werte, die Sie zuvor gesehen haben. Wenden Sie vorerst eine Füllung an, die mit dem Wert in der vorherigen Zeile übereinstimmt.

Ausführungscode


y_train.fillna(method = 'ffill',inplace = True)

Überprüfen Sie den fehlenden Wert erneut.

Ausführungscode


y_train.isnull().sum()

output


left_eye_center_x            0
left_eye_center_y            0
right_eye_center_x           0
right_eye_center_y           0
left_eye_inner_corner_x      0
left_eye_inner_corner_y      0
left_eye_outer_corner_x      0
left_eye_outer_corner_y      0
right_eye_inner_corner_x     0
right_eye_inner_corner_y     0
right_eye_outer_corner_x     0
right_eye_outer_corner_y     0
left_eyebrow_inner_end_x     0
left_eyebrow_inner_end_y     0
left_eyebrow_outer_end_x     0
left_eyebrow_outer_end_y     0
right_eyebrow_inner_end_x    0
right_eyebrow_inner_end_y    0
right_eyebrow_outer_end_x    0
right_eyebrow_outer_end_y    0
nose_tip_x                   0
nose_tip_y                   0
mouth_left_corner_x          0
mouth_left_corner_y          0
mouth_right_corner_x         0
mouth_right_corner_y         0
mouth_center_top_lip_x       0
mouth_center_top_lip_y       0
mouth_center_bottom_lip_x    0
mouth_center_bottom_lip_y    0
Image                        0

Es wurde bestätigt, dass keine Werte fehlten.

Schließlich standardisieren Sie die Daten.

Ausführungscode


for columns in train_y.columns:
    mean.append(train_y[columns].mean())
    std.append(train_y[columns].std())
    train_y[columns] = (train_y[columns] - train_y[columns].mean()) / train_y[columns].std()

Lernen

Erstellen Sie das Modell.

Ausführungscode


model=tf.keras.models.Sequential([
    tf.keras.layers.Conv2D(6,(3,3), activation = 'relu', input_shape=(96,96,1)),
    tf.keras.layers.MaxPooling2D(2,2),
    tf.keras.layers.Conv2D(12,(3,3), activation = 'relu'),
    tf.keras.layers.MaxPooling2D(2,2),
    tf.keras.layers.Flatten(),
    tf.keras.layers.Dense(512, activation = 'relu'),
    tf.keras.layers.Dense(30,activation='relu')
    ])
model.summary()

output


Model: "sequential_1"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
conv2d_2 (Conv2D)            (None, 94, 94, 6)         60        
_________________________________________________________________
max_pooling2d_2 (MaxPooling2 (None, 47, 47, 6)         0         
_________________________________________________________________
conv2d_3 (Conv2D)            (None, 45, 45, 12)        660       
_________________________________________________________________
max_pooling2d_3 (MaxPooling2 (None, 22, 22, 12)        0         
_________________________________________________________________
flatten_1 (Flatten)          (None, 5808)              0         
_________________________________________________________________
dense_2 (Dense)              (None, 512)               2974208   
_________________________________________________________________
dense_3 (Dense)              (None, 30)                15390     
=================================================================
Total params: 2,990,318
Trainable params: 2,990,318
Non-trainable params: 0
_________________________________________________________________

Ausführungscode


model.compile(optimizer='adam', loss='mean_squared_error', metrics=['accuracy'])

Lass mich lernen.

Ausführungscode


model.fit(x_train, y_train, epochs = 10)

output


Train on 7049 samples
Epoch 1/10
7049/7049 [==============================] - 20s 3ms/sample - loss: 470.8903 - accuracy: 0.5540
Epoch 2/10
7049/7049 [==============================] - 19s 3ms/sample - loss: 283.7981 - accuracy: 0.6073
Epoch 3/10
7049/7049 [==============================] - 20s 3ms/sample - loss: 152.0215 - accuracy: 0.6493
Epoch 4/10
7049/7049 [==============================] - 20s 3ms/sample - loss: 151.0923 - accuracy: 0.6866
Epoch 5/10
7049/7049 [==============================] - 19s 3ms/sample - loss: 150.6215 - accuracy: 0.7188
Epoch 6/10
7049/7049 [==============================] - 20s 3ms/sample - loss: 149.9657 - accuracy: 0.7289
Epoch 7/10
7049/7049 [==============================] - 20s 3ms/sample - loss: 149.8715 - accuracy: 0.7371
Epoch 8/10
7049/7049 [==============================] - 19s 3ms/sample - loss: 149.7018 - accuracy: 0.7424
Epoch 9/10
7049/7049 [==============================] - 20s 3ms/sample - loss: 149.4364 - accuracy: 0.7451
Epoch 10/10
7049/7049 [==============================] - 19s 3ms/sample - loss: 149.3164 - accuracy: 0.7510

Machen Sie Vorhersagen für das Testmodell.

Ausführungscode


pred = model.predict(x_test)

Übermittlungsdatei erstellen

Von hier aus ist es etwas ärgerlich, aber Sie müssen sich auf die oben erwähnte IdLookupTable.csv beziehen und die für jedes Bild erforderlichen Koordinaten extrahieren. Es überrascht nicht, dass der Pred aus 15 x- und y-Koordinatenvorhersagen für jedes der 1783 Bilder besteht. (1783 × 30)

Als Ansatz,

  1. Holen Sie sich die Funktionen, die für jedes Bild aus IdLookupTable.csv extrahiert werden sollen
  2. Codieren Sie als Nächstes die Features mit Indizes von 0 bis 29.
  3. Extrahieren Sie den Wert, der der Kombination aus Bild-ID und Merkmalsindex entspricht, aus pred Es ist ein Fluss.

Ausführungscode


#1. IdLookupTable.Extrahieren Sie die ImageId und den Funktionsnamen aus csv.
lookid_list = list(df['FeatureName'])
imageID = list(df['ImageId']-1)
pre_list = list(pred)

Ausführungscode


#2.Funktionsname 0~In 29 Indizes codieren und in der Liste speichern.
feature = []
for f in looked_list:
    feature.append(lookid_list.index(f))

Ausführungscode


#3.Diejenige, die der Kombination der Bild-ID und des Merkmalsnamenindex entspricht, wird aus dem Vorhersageergebnis extrahiert.
#Zu diesem Zeitpunkt wird der Wert erhalten, indem die der Standardisierung entgegengesetzte Umwandlung durchgeführt wird.
preded = []
for x,y in zip(imageID,feature):
    preded.append(pre_list[x][y] * std[y] + mean[y])

Erstellen Sie abschließend eine Übermittlungsdatei.

Ausführungscode


rowid = pd.Series(df['RowId'],name = 'RowId')
loc = pd.Series(preded,name = 'Location')

Ausführungscode


submission = pd.concat([rowid,loc],axis = 1)

Zusammenfassung

das ist alles. Dies ergibt eine Punktzahl von ca. 3,8. スクリーンショット 2020-01-20 3.13.07.png Wenn Sie Augmentation auf das Bild anwenden oder das Modell verbessern, erhöht sich die Punktzahl überhaupt. Ich würde gerne wieder posten, sobald ich daran arbeite. Ich würde mich freuen, wenn Sie auf Fehler hinweisen könnten. Vielen Dank.

Recommended Posts

Kaggle Facial Keypoints Detection
Expressionsnachweis mit Yolov5
[Ubuntu] [Python] Gesichtsorganerkennung mit dlib