python 非線(xiàn)性規(guī)劃方式(scipy.optimize.minimize)
一、背景:
現(xiàn)在項(xiàng)目上有一個(gè)用python 實(shí)現(xiàn)非線(xiàn)性規(guī)劃的需求。非線(xiàn)性規(guī)劃可以簡(jiǎn)單分兩種,目標(biāo)函數(shù)為凸函數(shù) or 非凸函數(shù)。
凸函數(shù)的 非線(xiàn)性規(guī)劃,比如fun=x^2+y^2+x*y,有很多常用的python庫(kù)來(lái)完成,網(wǎng)上也有很多資料,比如CVXPY
非凸函數(shù)的 非線(xiàn)性規(guī)劃(求極值),從處理方法來(lái)說(shuō),可以嘗試以下幾種:
1.純數(shù)學(xué)方法,求導(dǎo)求極值;
2.使用神經(jīng)網(wǎng)絡(luò),深度學(xué)習(xí)來(lái)處理,可參考反向傳播算法中鏈?zhǔn)角髮?dǎo)的過(guò)程;
3.尋找一些python庫(kù)來(lái)做,本文介紹scipy.optimize.minimize的使用方法
二、庫(kù)方法介紹
官方文檔:https://docs.scipy.org/doc/scipy/reference/generated/scipy.optimize.minimize.html
來(lái)看下改方法的入?yún)?/p>
scipy.optimize.minimize(fun, x0, args=(), method=None, jac=None, hess=None, hessp=None, bounds=None, constraints=(), tol=None, callback=None, options=None)
解釋?zhuān)?/p>
fun: 求最小值的目標(biāo)函數(shù)
x0:變量的初始猜測(cè)值,如果有多個(gè)變量,需要給每個(gè)變量一個(gè)初始猜測(cè)值。minimize是局部最優(yōu)的解法,所以
args:常數(shù)值,后面demo會(huì)講解,fun中沒(méi)有數(shù)字,都以變量的形式表示,對(duì)于常數(shù)項(xiàng),需要在這里給值
method:求極值的方法,官方文檔給了很多種。一般使用默認(rèn)。每種方法我理解是計(jì)算誤差,反向傳播的方式不同而已,這塊有很大理論研究空間
constraints:約束條件,針對(duì)fun中為參數(shù)的部分進(jìn)行約束限制
三、demo
1.計(jì)算 1/x+x 的最小值
# coding=utf-8 from scipy.optimize import minimize import numpy as np #demo 1 #計(jì)算 1/x+x 的最小值 def fun(args): a=args v=lambda x:a/x[0] +x[0] return v if __name__ == "__main__": args = (1) #a x0 = np.asarray((2)) # 初始猜測(cè)值 res = minimize(fun(args), x0, method='SLSQP') print(res.fun) print(res.success) print(res.x)
執(zhí)行結(jié)果:函數(shù)的最小值為2點(diǎn)多,可以看出minimize求的局部最優(yōu)

2.計(jì)算 (2+x1)/(1+x2) - 3*x1+4*x3 的最小值 x1,x2,x3的范圍都在0.1到0.9 之間
# coding=utf-8
from scipy.optimize import minimize
import numpy as np
# demo 2
#計(jì)算 (2+x1)/(1+x2) - 3*x1+4*x3 的最小值 x1,x2,x3的范圍都在0.1到0.9 之間
def fun(args):
a,b,c,d=args
v=lambda x: (a+x[0])/(b+x[1]) -c*x[0]+d*x[2]
return v
def con(args):
# 約束條件 分為eq 和ineq
#eq表示 函數(shù)結(jié)果等于0 ; ineq 表示 表達(dá)式大于等于0
x1min, x1max, x2min, x2max,x3min,x3max = args
cons = ({'type': 'ineq', 'fun': lambda x: x[0] - x1min},\
{'type': 'ineq', 'fun': lambda x: -x[0] + x1max},\
{'type': 'ineq', 'fun': lambda x: x[1] - x2min},\
{'type': 'ineq', 'fun': lambda x: -x[1] + x2max},\
{'type': 'ineq', 'fun': lambda x: x[2] - x3min},\
{'type': 'ineq', 'fun': lambda x: -x[2] + x3max})
return cons
if __name__ == "__main__":
#定義常量值
args = (2,1,3,4) #a,b,c,d
#設(shè)置參數(shù)范圍/約束條件
args1 = (0.1,0.9,0.1, 0.9,0.1,0.9) #x1min, x1max, x2min, x2max
cons = con(args1)
#設(shè)置初始猜測(cè)值
x0 = np.asarray((0.5,0.5,0.5))
res = minimize(fun(args), x0, method='SLSQP',constraints=cons)
print(res.fun)
print(res.success)
print(res.x)
執(zhí)行結(jié)果:

對(duì)于這種簡(jiǎn)單的函數(shù),可以看出局部最優(yōu)的求解和真實(shí)最優(yōu)解相差不大,對(duì)于復(fù)雜的函數(shù),x0的初始值設(shè)置,會(huì)很大程度影響最優(yōu)解的結(jié)果。
ADD:
全局最優(yōu)的函數(shù): scipy.optimize.basinhopping
有一個(gè)缺點(diǎn)是無(wú)法設(shè)置約束,求全局的最優(yōu)解的函數(shù)
https://docs.scipy.org/doc/scipy/reference/generated/scipy.optimize.basinhopping.html
以上這篇python 非線(xiàn)性規(guī)劃方式(scipy.optimize.minimize)就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
- python scipy.spatial.distance 距離計(jì)算函數(shù) ?
- python scipy.misc.imsave()函數(shù)的用法說(shuō)明
- python的scipy.stats模塊中正態(tài)分布常用函數(shù)總結(jié)
- python統(tǒng)計(jì)函數(shù)庫(kù)scipy.stats的用法解析
- 詳解利用Python scipy.signal.filtfilt() 實(shí)現(xiàn)信號(hào)濾波
- Python解方程組 scipy.optimize.fsolve()函數(shù)如何求解帶有循環(huán)求和的方程式
相關(guān)文章
用pandas劃分?jǐn)?shù)據(jù)集實(shí)現(xiàn)訓(xùn)練集和測(cè)試集
這篇文章主要介紹了用pandas劃分?jǐn)?shù)據(jù)集實(shí)現(xiàn)訓(xùn)練集和測(cè)試集,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-07-07
對(duì)python中的乘法dot和對(duì)應(yīng)分量相乘multiply詳解
今天小編就為大家分享一篇對(duì)python中的乘法dot和對(duì)應(yīng)分量相乘multiply詳解,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-11-11
python hmac模塊驗(yàn)證客戶(hù)端的合法性
這篇文章主要介紹了python hmac模塊驗(yàn)證客戶(hù)端的合法性,幫助大家更好的理解和使用python,感興趣的朋友可以了解下2020-11-11
pytorch 實(shí)現(xiàn)刪除tensor中的指定行列
今天小編就為大家分享一篇pytorch 實(shí)現(xiàn)刪除tensor中的指定行列,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-01-01
基于Python實(shí)現(xiàn)英語(yǔ)單詞小游戲
這篇文章主要為大家詳細(xì)介紹了如何通過(guò)Python實(shí)現(xiàn)一個(gè)簡(jiǎn)單的英語(yǔ)單詞小游戲,四級(jí)考滿(mǎn)分的學(xué)姐告訴你這樣學(xué)英語(yǔ)逢考必過(guò),趕緊康康叭2022-11-11
python中圖形庫(kù)turtle庫(kù)詳解(適用于計(jì)算機(jī)二級(jí))
Turtle庫(kù)是Python語(yǔ)言中的一個(gè)圖形庫(kù),可以用來(lái)繪制各種形狀,如線(xiàn)條、矩形、圓形等等,下面這篇文章主要給大家介紹了關(guān)于python中圖形庫(kù)turtle庫(kù)的相關(guān)資料,文中通過(guò)代碼介紹的非常詳細(xì),需要的朋友可以參考下2024-08-08

