TensorFlow> Lernsinuskurve> Reproduktion des Lernergebnisses aus Gewicht, Bias v0.3 (Fehler) / Python> Pass: Keine Operation

Betriebsumgebung


GeForce GTX 1070 (8GB)
ASRock Z170M Pro4S [Intel Z170chipset]
Ubuntu 14.04 LTS desktop amd64
TensorFlow v0.11
cuDNN v5.1 for Linux
CUDA v8.0
Python 2.7.6
IPython 5.1.0 -- An enhanced Interactive Python.

Verwandte http://qiita.com/7of9/items/b364d897b95476a30754

Ich versuche, das Netzwerk selbst zu reproduzieren und die Ausgabe basierend auf [Gewicht und Verzerrung beim Lernen der Sinuskurve] zu berechnen (http://qiita.com/7of9/items/f7b2e0eeea3b7fdc632c).

http://qiita.com/7of9/items/b52684b0df64b6561a48 Fortsetzung

http://qiita.com/7of9/items/7e45a69c822900a80c67 Es scheint, dass der Lernfehler der Sinuskurve korrigiert werden könnte. Erstellen wir also erneut eine Sinuskurve aus dem Gewicht und der Abweichung, die aus model_variables.npy gelesen wurden.

code v0.3

--v0.2: applyActFnc hinzugefügt, um das Umschalten zwischen Sigmoid / Linear zu unterstützen

reproduce_sine.py


'''
v0.3 Dec. 11, 2016
	- add output_debugPrint()
	- fix bug > calc_sigmoid() was using positive for exp()
v0.2 Dec. 10, 2016
	- calc_conv() takes [applyActFnc] argument
v0.1 Dec. 10, 2016
	- add calc_sigmoid()
	- add fully_connected network
	- add input data for sine curve
=== [read_model_var.py] branched to [reproduce_sine.py] ===

v0.4 Dec. 10, 2016
	- add 2x2 network example
v0.3 Dec. 07, 2016
	- calc_conv() > add bias
v0.2 Dec. 07, 2016
	- fix calc_conv() treating src as a list
v0.1 Dec. 07, 2016
	- add calc_conv()
'''

import numpy as np
import math
import sys

model_var = np.load('model_variables.npy')


# to ON/OFF debug print at one place
def output_debugPrint(str): 
#	print(str)
	pass # no operation

output_debugPrint( ("all shape:",(model_var.shape)) )

def calc_sigmoid(x):
	return 1.0 / (1.0 + math.exp(-x))

def calc_conv(src, weight, bias, applyActFnc):
	wgt = weight.shape
#	print wgt # debug
	#conv = list(range(bias.size))
	conv = [0.0] * bias.size
	# weight
	for idx1 in range(wgt[0]):
		for idx2 in range(wgt[1]):
			conv[idx2] = conv[idx2] + src[idx1] * weight[idx1,idx2]
	# bias
	for idx2 in range(wgt[1]):
		conv[idx2] = conv[idx2] + bias[idx2]
	# activation function
	if applyActFnc:
		for idx2 in range(wgt[1]):
			conv[idx2] = calc_sigmoid(conv[idx2])

	return conv # return list

inpdata = np.linspace(0, 1, 30).astype(float).tolist()


for din in inpdata:
	# input layer (7 node)
	inlist = [ din ]
	outdata = calc_conv(inlist, model_var[0], model_var[1], applyActFnc=True)
	# hidden layer 1 (7 node)
	outdata = calc_conv(outdata, model_var[2], model_var[3], applyActFnc=True)
	# hidden layer 2 (7 node)
	outdata = calc_conv(outdata, model_var[4], model_var[5], applyActFnc=True)
	# output layer (1 node)
	outdata = calc_conv(outdata, model_var[6], model_var[7], applyActFnc=False)
	dout = outdata[0] # ouput is 1 node
	print '%.3f, %.3f' % (din,dout)

Lauf


$ python reproduce_sine.py  > res.reprod_sine

Jupyter-Anzeige

Folgendes wurde verglichen.

%matplotlib inline

import numpy as np
import matplotlib.pyplot as plt

data1 = np.loadtxt('res.161210_1958.cut', delimiter=',')
inp1 = data1[:,0]
out1 = data1[:,1]
data2 = np.loadtxt('res.reprod_sine', delimiter=',')
inp2 = data2[:,0]
out2 = data2[:,1]

fig = plt.figure()
ax1 = fig.add_subplot(2,1,1)
ax2 = fig.add_subplot(2,1,2)

ax1.scatter(inp1, out1, label='TensorFlow prediction')
ax2.scatter(inp2, out2, label='from model_var.npy')

#ax1.set_title('First line plot')
ax1.set_xlabel('x')
ax1.set_ylabel('sine(x) prediction')
ax1.grid(True)
ax1.legend()
ax1.set_xlim([0,1.0])

ax2.set_xlabel('x')
ax2.set_ylabel('sine(x) reproduced')
ax2.grid(True)
ax2.legend()
ax2.set_xlim([0,1.0])

fig.show()

https://www.quora.com/In-the-movie-Aladdin-what-were-the-three-wishes

When he (Alladin) first rubs the lamp. The Genie appears,

Ide yo Sinuskurve.

qiita.png

Ein bisschen länger.

Recommended Posts

TensorFlow> Lernsinuskurve> Reproduktion des Lernergebnisses aus Gewicht, Bias v0.3 (Fehler) / Python> Pass: Keine Operation
TensorFlow> Sinuskurve lernen> Reproduktion von Lernergebnissen aus Gewicht, Bias v0.4 (Erfolg?)
"Deep Learning from Grund" Memo zum Selbststudium (Nr. 10-2) Anfangswert des Gewichts
Notizen vom Anfang von Python 1 lernen
Notizen vom Anfang von Python 2 lernen