機(jī)器學(xué)習(xí)、深度學(xué)習(xí)面試題合集是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)領(lǐng)域的常見(jiàn)面試題的集合，共300題，涵蓋了機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、算法崗面試題等方面的知識(shí)點(diǎn)。包括支持向量機(jī)（SVM）、TensorFlow、Gradient Boosting Decision Tree（GBDT）、XGBoost、K-Means、K-NN、邏輯回歸（LR）等。

1. SVM (Support Vector Machine)：SVM是一個(gè)面向數(shù)據(jù)的分類(lèi)算法，目標(biāo)是確定一個(gè)分類(lèi)超平面，以將不同的數(shù)據(jù)分隔開(kāi)。SVM有三種類(lèi)型：線性可分支持向量機(jī)、線性支持向量機(jī)和非線性支持向量機(jī)。

2. Tensorflow 計(jì)算圖：Tensorflow是一個(gè)通過(guò)計(jì)算圖的形式來(lái)表述計(jì)算的編程系統(tǒng)，計(jì)算圖也叫數(shù)據(jù)流圖，可以把計(jì)算圖看做是一種有向圖，Tensorflow中的每一個(gè)計(jì)算都是計(jì)算圖上的一個(gè)節(jié)點(diǎn)，而節(jié)點(diǎn)之間的邊描述了計(jì)算之間的依賴(lài)關(guān)系。

3. GBDT 和 XGBoost 的區(qū)別：XGBoost類(lèi)似于GBDT的優(yōu)化版，不論是精度還是效率上都有了提升。與GBDT相比，XGBoost的優(yōu)點(diǎn)有：損失函數(shù)是用泰勒展式二項(xiàng)逼近，而不是像GBDT里的就是一階導(dǎo)數(shù)；對(duì)樹(shù)的結(jié)構(gòu)進(jìn)行了正則化約束，防止模型過(guò)度復(fù)雜，降低了過(guò)擬合的可能性；節(jié)點(diǎn)分裂的方式不同，GBDT是用的基尼系數(shù)，XGBoost是經(jīng)過(guò)優(yōu)化推導(dǎo)后的。

4. k-means 或 kNN 中的距離計(jì)算：在k-means或kNN中，我們是用歐氏距離來(lái)計(jì)算最近的鄰居之間的距離。因?yàn)槁D距離只計(jì)算水平或垂直距離，有維度的限制，而歐氏距離可用于任何空間的距離計(jì)算問(wèn)題。

5. 特征工程：特征工程是機(jī)器學(xué)習(xí)中非常重要的一步，對(duì)于模型的性能有很大的影響。特征工程的目的是將原始特征轉(zhuǎn)化為模型可以更好地理解和使用的特征。

6. LR 模型：LR模型是邏輯回歸模型，主要用于解決二分類(lèi)問(wèn)題。LR模型的優(yōu)點(diǎn)是可以處理非線性數(shù)據(jù)，且可以很好地解決過(guò)擬合問(wèn)題。

7. overfitting 的解決方法：overfitting是機(jī)器學(xué)習(xí)中的一種常見(jiàn)問(wèn)題，解決方法有dropout、regularization、batch normalization等。

8. LR 和 SVM 的聯(lián)系與區(qū)別：LR和SVM都是機(jī)器學(xué)習(xí)中常用的分類(lèi)算法，兩者都可以處理分類(lèi)問(wèn)題，但有很多不同之處。LR是參數(shù)模型，SVM是非參數(shù)模型；從目標(biāo)函數(shù)來(lái)看，LR采用的是Logistical Loss，SVM采用的是hinge loss。

9. LR 與線性回歸的區(qū)別與聯(lián)系：邏輯回歸和線性回歸都是廣義的線性回歸，但有很多不同之處。線性回歸的優(yōu)化目標(biāo)函數(shù)是最小二乘，而邏輯回歸則是似然函數(shù)另外線性回歸在整個(gè)實(shí)數(shù)域范圍內(nèi)進(jìn)行預(yù)測(cè)，而邏輯回歸則是在[0,1]范圍內(nèi)進(jìn)行預(yù)測(cè)。

10. XGBoost 的泰勒展開(kāi)：XGBoost使用了一階和二階偏導(dǎo)，二階導(dǎo)數(shù)有利于梯度下降的更快更準(zhǔn)。使用泰勒展開(kāi)取得二階倒數(shù)形式，可以在不選定損失函數(shù)具體形式的情況下用于算法優(yōu)化分析。