對數求導法公式 對數求導

全文共3893字,預計學習時長10分鐘

對數求導法公式  對數求導

文章插圖
圖源:unsplash
就業市場上,機器學習工程師總是受到質疑,人們不相信他們數學功底深厚 。事實上,所有機器學習算法的本質都是數學問題,無論是支持向量機、主成分分析還是神經 *** 最終都歸結為對偶優化、譜分解篩選和連續非線性函數組合等數學問題 。只有徹底理解數學,才能正真掌握這些機器學習算法 。
Python中的各種數據庫能幫助人們利用高級算法來完成一些簡單步驟 。例如包含了K近鄰算法、K均值、決策樹等算法的機器學習算法庫Scikit-learn,或者Keras,都可以幫助人們構建神經 *** 架構,而不必了解卷積神經 *** CNNs或是循環神經 *** RNNs背后的細節 。
然而,想要成為一名優秀的機器學習工程師需要的遠不止這些 。在面試時,面試官通常會問及如何從零開始實現K近鄰算法、決策樹,又或者如何導出線性回歸、softmax反向傳播方程的矩陣閉式解等問題 。
本文將回顧一些微積分的基本概念助你準備面試,如一元和多元函數的導數、梯度、雅可比矩陣和黑塞矩陣 。同時,本文還能為你深入研究機器學習、尤其是神經 *** 背后的數學運算打下良好的基礎 。這些概念將通過5個導數公式來展示,絕對是面試必備干貨 。

對數求導法公式  對數求導

文章插圖

對數求導法公式  對數求導

文章插圖
導數1:復合指數函數
對數求導法公式  對數求導

文章插圖
指數函數非?;A常見,而且非常有用 。它是一個標準正函數 。在實數?中e? > 0,同時指數函數還有一個重要的性質,即e? = 1 。
另外,指數函數與對數函數互為反函數 。指數函數也是最容易求導的函數之一,因為指數函數的導數就是其本身,即(e?)’ = e? 。當指數與另一個函數組合形成一個復合函數時,復合函數的導數就變得更為復雜了 。在這種情況下,應遵循鏈式法則來求導,f(g(x))的導數等于f’(g(x))?g’(x),即:

對數求導法公式  對數求導

文章插圖
運用鏈式法則可以計算出f(x)= e?2的導數 。先求g(x)=x2的導數:g(x)’=2x 。而指數函數的導數為其本身:(e?)’=e? 。將這兩個導數相乘,就可以得到復合函數f(x)= e?2的導數:

對數求導法公式  對數求導

文章插圖
這是個非常簡單的例子,乍一看可能無關緊要,但它經常在面試開始前被面試官用來試探面試者的能力 。如果你已經很久沒有溫習過導數了,那么很難確保自己能夠迅速應對這些簡單問題 。雖然它不一定會讓你得到這份工作,但如果你連這么一個基本問題都回答不上,那你肯定會失去這份工作 。

對數求導法公式  對數求導

文章插圖
導數2:底數為變量的復變指數
對數求導法公式  對數求導

文章插圖
復變指數函數是一個經典面試問題,尤其是在計量金融領域,它比科技公司 *** 機器學習職位更為看重數學技能 。復變指數函數迫使面試者走出舒適區 。但實際上,這個問題最難的部分是如何找準正確的方向 。
當函數逼近一個指數函數時,首先最重要的是要意識到指數函數與對數函數互為反函數,其次,每個指數函數都可以轉化為自然指數函數的形式:

對數求導法公式  對數求導

文章插圖
在對復變指數函數f(x) = x?求導前,要先用一個簡單的指數函數f(x) = 2?來證明復變函數的一種性質 。先用上述方程將2? 轉化為exp(xln(2)),再用鏈式法則求導 。

對數求導法公式  對數求導

文章插圖
現在回到原來的函數f(x)=x?,只要把它轉化為f(x)=exp(x ln x),求導就變得相對簡單,可能唯一困難的部分是鏈式法則求導這一步 。

對數求導法公式  對數求導

文章插圖
注意這里是用乘積法則(uv)’=u’v+uv’來求指數xln(x)的導數 。
通常情況下,面試官提問這個函數時不會告訴你函數定義域 。如果面試官沒有給定函數定義域,他可能是想測試一下你的數學敏銳度 。這便是這個問題具有欺騙性的地方 。沒有限定定義域,x?既可以為正也可以為負 。當x為負時,如(-0.9)^(-0.9),結果為復數-1.05–0.34i 。

推薦閱讀