機器學習、深度學習面試題合集是機器學習和深度學習領(lǐng)域的常見面試題的集合，共300題，涵蓋了機器學習、深度學習、算法崗面試題等方面的知識點。包括支持向量機（SVM）、TensorFlow、Gradient Boosting Decision Tree（GBDT）、XGBoost、K-Means、K-NN、邏輯回歸（LR）等。

1. SVM (Support Vector Machine)：SVM是一個面向數(shù)據(jù)的分類算法，目標是確定一個分類超平面，以將不同的數(shù)據(jù)分隔開。SVM有三種類型：線性可分支持向量機、線性支持向量機和非線性支持向量機。

2. Tensorflow 計算圖：Tensorflow是一個通過計算圖的形式來表述計算的編程系統(tǒng)，計算圖也叫數(shù)據(jù)流圖，可以把計算圖看做是一種有向圖，Tensorflow中的每一個計算都是計算圖上的一個節(jié)點，而節(jié)點之間的邊描述了計算之間的依賴關(guān)系。

3. GBDT 和 XGBoost 的區(qū)別：XGBoost類似于GBDT的優(yōu)化版，不論是精度還是效率上都有了提升。與GBDT相比，XGBoost的優(yōu)點有：損失函數(shù)是用泰勒展式二項逼近，而不是像GBDT里的就是一階導數(shù)；對樹的結(jié)構(gòu)進行了正則化約束，防止模型過度復雜，降低了過擬合的可能性；節(jié)點分裂的方式不同，GBDT是用的基尼系數(shù)，XGBoost是經(jīng)過優(yōu)化推導后的。

4. k-means 或 kNN 中的距離計算：在k-means或kNN中，我們是用歐氏距離來計算最近的鄰居之間的距離。因為曼哈頓距離只計算水平或垂直距離，有維度的限制，而歐氏距離可用于任何空間的距離計算問題。

5. 特征工程：特征工程是機器學習中非常重要的一步，對于模型的性能有很大的影響。特征工程的目的是將原始特征轉(zhuǎn)化為模型可以更好地理解和使用的特征。

6. LR 模型：LR模型是邏輯回歸模型，主要用于解決二分類問題。LR模型的優(yōu)點是可以處理非線性數(shù)據(jù)，且可以很好地解決過擬合問題。

7. overfitting 的解決方法：overfitting是機器學習中的一種常見問題，解決方法有dropout、regularization、batch normalization等。

8. LR 和 SVM 的聯(lián)系與區(qū)別：LR和SVM都是機器學習中常用的分類算法，兩者都可以處理分類問題，但有很多不同之處。LR是參數(shù)模型，SVM是非參數(shù)模型；從目標函數(shù)來看，LR采用的是Logistical Loss，SVM采用的是hinge loss。

9. LR 與線性回歸的區(qū)別與聯(lián)系：邏輯回歸和線性回歸都是廣義的線性回歸，但有很多不同之處。線性回歸的優(yōu)化目標函數(shù)是最小二乘，而邏輯回歸則是似然函數(shù)另外線性回歸在整個實數(shù)域范圍內(nèi)進行預測，而邏輯回歸則是在[0,1]范圍內(nèi)進行預測。

10. XGBoost 的泰勒展開：XGBoost使用了一階和二階偏導，二階導數(shù)有利于梯度下降的更快更準。使用泰勒展開取得二階倒數(shù)形式，可以在不選定損失函數(shù)具體形式的情況下用于算法優(yōu)化分析。