#在jupyter中設置圖像的顯示方式inline，否則圖像不顯示
%matplotlib inline         
import tensorflow as tf
import numpy as np             #Python的一種開源的數(shù)值計算擴展
import matplotlib.pyplot as plt      #Python的一種繪圖庫
 
np.random.seed(5)             #設置產(chǎn)生偽隨機數(shù)的類型
x=np.linspace(-1,1,100)          #在-1到1之間產(chǎn)生100個等差數(shù)列作為圖像的橫坐標
#根據(jù)y=2*x+1+噪聲產(chǎn)生縱坐標
#randn(100)表示從100個樣本的標準正態(tài)分布中返回一個樣本值，0.4為數(shù)據(jù)抖動幅度
y=2*x+1.0+np.random.randn(100)*0.4
 
plt.scatter(x,y)              #生成散點圖
plt.plot(x,2*x+1,color='red',linewidth=3)  #生成直線y=2x+1

#定義函數(shù)模型，y=kx+b
def model(x,k,b):
  return tf.multiply(k,x)+b
#定義模型中的參數(shù)變量，并為其賦初值
k=tf.Variable(1.0,name='k')
b=tf.Variable(0,name='b')
 
#定義訓練數(shù)據(jù)的占位符，x為特征值，y為標簽
x=tf.placeholder(name='x')
y=tf.placeholder(name='y')
#通過模型得出特征值x對應的預測值yp
yp=model(x,k,b)

#訓練模型，設置訓練參數(shù)(迭代次數(shù)、學習率)
train_epoch=10
rate=0.05
#定義均方差為損失函數(shù)
loss=tf.reduce_mean(tf.square(y-yp))
#定義梯度下降優(yōu)化器，并傳入?yún)?shù)學習率和損失函數(shù)
optimizer=tf.train.GradientDescentOptimizer(rate).minimize(loss)
 
ss=tf.Session()
init=tf.global_variables_initializer()
ss.run(init)
 
#進行多輪迭代訓練，每輪將樣本值逐個輸入模型，進行梯度下降優(yōu)化操作得出參數(shù)，繪制模型曲線
for _ in range(train_epoch):
  for x1,y1 in zip(sx,sy):
    ss.run([optimizer,loss],feed_dict={x:x1,y:y1})
  tmp_k=k.eval(session=ss)
  tmp_b=b.eval(session=ss)
  plt.plot(sx,tmp_k*sx+tmp_b)
 
ss.close()

scalar=1
scalar_np=np.array(scalar)       #將標量轉(zhuǎn)化為np的數(shù)組類型
print(scalar_np.shape)         #只有np才有shape屬性，標量對應的shape輸出為()
 
#二維以上的有序數(shù)組才可以看作矩陣
matrix=[[1,2,3],[4,5,6]]
matrix_np=np.array(matrix)       #將list轉(zhuǎn)化為np矩陣
print('二維數(shù)組：',matrix)       #輸出為單行數(shù)組
print('矩陣形式：\n',matrix_np)     #結(jié)果將以多行矩陣的形式輸出
print('矩陣轉(zhuǎn)置：\n',matrix_np.T)
print('shape值',matrix_np.shape)

 
ma=np.array([[1,2,3],[4,5,6]])
mb=np.array([[1,2],[3,4],[5,6]])
print(ma+ma)
print(ma*ma)             #矩陣點乘
print(np.matmul(ma,mb))       #矩陣叉乘

%matplotlib notebook
 
import tensorflow as tf
import matplotlib.pyplot as plt
import numpy as np
import pandas as pd
from sklearn.utils import shuffle
 
#利用pandas讀取數(shù)據(jù)csv文件
data=pd.read_csv('D:/Temp/data/boston.csv',header=0)
#顯示數(shù)據(jù)摘要描述信息
#print(data.describe())
data=np.array(data.values)                #將data的值轉(zhuǎn)換為np數(shù)組
for i in range(12):                    #將所有數(shù)據(jù)進行歸一化處理
  data[:,i]=data[:,i]/(data[:,i].max()-data[:,i].min())
x_data=data[:,:12]                  #截取所有行，0到11列作為特質(zhì)值x
y_data=data[:,12]                   #截取所有行，第12列作為標簽值y
 
x=tf.placeholder(tf.float32,[None,12],name='x')  
#None代表行數(shù)不確定，12代表一行特征值有12個子數(shù)據(jù)
y=tf.placeholder(tf.float32,[None,1],name='y')
 
with tf.name_scope('Model'):             #定義命名空間
  k=tf.Variable(tf.random_normal([12,1],stddev=0.01),name='k')
  b=tf.Variable(1.0,name='b')
  
  def model(x,k,b):
    return tf.matmul(k,x)+b            #數(shù)組k，x進行叉乘運算再加上b
  
  yp=model(x,k,b)
 
#定義超參數(shù)：訓練次數(shù)、學習率、損失函數(shù)
train_epochs=50
learning_rate=0.01
with tf.name_scope('Loss'):
  loss_function=tf.reduce_mean(tf.square(y-yp))
#使用梯度下降法定義優(yōu)化器  
optimizer=tf.train.GradientDescentOptimizer(learning_rate).minimize(loss_function)
 
ss=tf.Session()
init=tf.global_variables_initializer()
ss.run(init)
loss_list=[]
 
for _ in range(train_epochs):
  loss_sum=0
  for(xs,ys)in zip(x_data,y_data):
    xs=xs.reshape(1,12)             #調(diào)整數(shù)據(jù)的維數(shù)格式以匹配占位符x
    ys=ys.reshape(1,1)
    _,loss=ss.run([optimizer,loss_function],feed_dict={x:xs,y:ys})
    loss_sum+=loss
    
  shuffle(x_data,y_data)              #每輪循環(huán)后，打亂數(shù)據(jù)順序
  k_tmp=k.eval(session=ss)
  b_tmp=b.eval(session=ss)
  print('k:',k_tmp,',b:',b_tmp)
  
  loss_avg=loss_sum/len(y_data)            #求每輪的損失值
  loss_list.append(loss_avg)  
  
plt.plot(loss_list)