快捷導(dǎo)航

python科學(xué)計(jì)算之scipy——optimize用法

更新時(shí)間：2019年11月25日 15:15:50 作者：NeverMore_7

今天小編就為大家分享一篇python科學(xué)計(jì)算之scipy——optimize用法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧

寫(xiě)在前面

SciPy的optimize模塊提供了許多數(shù)值優(yōu)化算法，下面對(duì)其中的一些記錄。

非線性方程組求解

SciPy中對(duì)非線性方程組求解是fslove()函數(shù)，它的調(diào)用形式一般為fslove(fun, x0)，fun是計(jì)算非線性方程組的誤差函數(shù)，它需要一個(gè)參數(shù)x，fun依靠x來(lái)計(jì)算線性方程組的每個(gè)方程的值（或者叫誤差），x0是x的一個(gè)初始值。

"""
計(jì)算非線性方程組：
  5x1+3 = 0
  4x0^2-2sin(x1x2)=0
  x1x2-1.5=0
"""
## 誤差函數(shù)
def fun(x):
  x0,x1,x2 = x.tolist()
  return[5*x1+3,4x0^2-2sin(x1x2),x1x2-1.5]

result = optimize.fsolve(fun,[1,1,1])
## result
[-0.70622057  -0.6  -2.5]

在計(jì)算非線性方程中的解時(shí)，比如像坐標(biāo)上升算法，其中需要用到未知數(shù)的導(dǎo)數(shù)，同樣，scipy的fslove()也提供了fprime參數(shù)傳遞未知數(shù)的雅各比矩陣從而加速計(jì)算，傳遞的雅各比矩陣每一行時(shí)某一方程對(duì)各個(gè)未知數(shù)的導(dǎo)數(shù)。對(duì)于上面的例子，我們可以寫(xiě)下如下的雅各比矩陣傳入。

def j(x):
  x0,x1,x2 = x.tolist()
  return[[0,5,0],[8*x0,-2*x2*cos(x1*x2],[0,x2,x1]]

result = optimize.fsolve(fun,[1,1,1],fprime=j)
#result
[-0.70622057  -0.6  -2.5]

scipy的內(nèi)部在實(shí)現(xiàn)fslove時(shí)應(yīng)該時(shí)應(yīng)該是利用了坐標(biāo)上升算法或者梯度相關(guān)優(yōu)化算法，但本人沒(méi)有考證，有興趣的可以看看源碼。

最小二乘擬合

關(guān)于最小二乘算法的理論這里并不想談，網(wǎng)上解釋的文章也挺多，在 optimize模塊中，可以使用leastsq()對(duì)數(shù)據(jù)進(jìn)行最小二乘擬合計(jì)算。 leastsq()的用法很簡(jiǎn)單，只需要將計(jì)箅誤差的函數(shù)和待確定參數(shù)的初始值傳遞給它即可。

x = np.array([8.19,2.72,6.39,8.71,4.7,2.66,3.78])
y = np.array([7.01,2.78,6.47,6.71,4.1,4.23,4.05])
def residual(p):
  k,b = p
  return y-(k*x+b)
r = optimize.leastsq(residual,[1,0])
k,b = r[0]
# print k
.613495349193
# print b
.79409254326

def func(x,p):
  """
    計(jì)算的正弦波 ：A*sin(2*pi*k*x+theta)
  """
  A,k,theta = p
  return A*sin(2*np.pi*k*x+theta)

def redis(p,y,x):
  return y-func(x,p)

x = np.linspace(0,2*np.pi,100)
A,k,theta = 10,0.34,np.pi/6
y0 = func(x,[A,k,theta])
# 加入噪聲
np.random.seed(0)
y1 = y0+2*np.random.randn(len(x))
p0 = [7,0.40,0]
# p0是A,k,theta的初始值，y1，x要擬合的數(shù)據(jù)
plsq = optimize.leastsq(redis, p0,args=(y1,x))
print [A,k,theta] #真是的參數(shù)值
print plsq[0]  #擬合后的參數(shù)值

對(duì)于像正弦波或者余弦波的曲線擬合，optimize提供curve_fit()函數(shù)，它的使用方式和leastq()稍有不同，它直接計(jì)算曲線的值，比如上面的擬合正弦波可以用cureve_fit()來(lái)寫(xiě)。

def func2(x,p):
  """
    計(jì)算的正弦波 ：A*sin(2*pi*k*x+theta)
  """
  A,k,theta = p
  return A*sin(2*np.pi*k*x+theta)
ret,_=optimize.curve_fit(func2,x,y1,p0=p0)

該函數(shù)有一個(gè)缺點(diǎn)就是對(duì)于初始值敏感，如果初始頻率和真實(shí)頻率值差太多，會(huì)導(dǎo)致最后無(wú)法收斂到真是頻率。

局部最小值

optimize模塊還提供了常用的最小值算法如：Nelder-Mead、Powell、CG、BFGS、Newton-CG等，在這些最小值計(jì)算時(shí)，往往會(huì)傳入一階導(dǎo)數(shù)矩陣(雅各比矩陣)或者二階導(dǎo)數(shù)矩陣(黑塞矩陣)從而加速收斂，這些最優(yōu)化算法往往不能保證收斂到全局最小值，大部分會(huì)收斂到局部極小值。這些函數(shù)的調(diào)用方式為:

optimize.minimize(target_fun,init_val,method,jac,hess) 
target_fun：函數(shù)的表達(dá)式計(jì)算； 
init_val：初始值； 
method：最小化的算法； 
jac：雅各比矩陣 
hess：黑塞矩陣。

全局最小值算法

全局最小值使用optimize.basinhopping()來(lái)實(shí)現(xiàn)，這個(gè)函數(shù)首先要定義一個(gè)誤差計(jì)算方式，比如平方誤差函數(shù)，niter時(shí)迭代的次數(shù)，最后還需要一個(gè)局部極小值優(yōu)化方法，minimizer_kwargs傳入。比如上面的正弦函數(shù)擬合：

def func1(x,p):
  """
    計(jì)算的正弦波 ：A*sin(2*pi*k*x+theta)
  """
  A,k,theta = p
  return A*sin(2*np.pi*k*x+theta)
def func_error(p,y,x):
  return np.sum((y-func1(x,p)**2)
result = optimize.basinhopping(func_error,[1,1,1],niter=10,
              minimizer_kwargs={"method":"L-BFGS-B",
                        "args":(y1,x1)})
## [1,1,1]是傳入的初始值，args是需要擬合的數(shù)據(jù)

以上這篇python科學(xué)計(jì)算之scipy——optimize用法就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

您可能感興趣的文章: