まず、問題文ではαなのに、解説ではaとなっています。

次に、解説に、
適当な値を代入して計算してみると「ア」が正しいことがわかります。
仮に a＝0.01, n＝10 としてみると
・・・
とあります。

ここは、正攻法でいくのはいかがでしょうか？(ちょっと数学の知識が必要ですが)

(1＋α)^n＝1＋n×α＋n×(n－1)／2×α~2＋・・・＋α^n
これが1＋n×αで近似できるのは、α^2の項以降が無視できるときであり、それは｜α｜が1に比べて非常に小さいときです。

横からですみません。
少し数学を使ってみようとのことですので、
(1＋α)^n の展開式の求め方を調べました。
学生時代に二項定理を理解していなかったのですが、
組合せの計算ができれば、係数を求められそうです。
入力の都合により、組合せの式
nCr＝n!／{r!×(n－r)!}を、C(n, r)で記載します。

以下、本題です。

(a＋b)^nは、
a^n, {a^(n－1)}×b, {a^(n－2)}×(b^2),
・・・, a×{b^(n－1)}, b^n の項の和になる。

a^nの係数は、
n組の(a, b)からaをn個、bを0個選ぶ組合せなので
C(n, 0)＝n!／(0!×n!)＝1

{a^(n－1)}×bの係数は、
n組の(a, b)からaを(n－1)個、bを1個選ぶ組合せなので
C(n, 1)＝n!／{1!×(n－1)!}＝n

{a^(n－2)}×(b^2)の係数は
n組の(a, b)からaを(n－2)個、bを2個選ぶ組合せなので
C(n, 2)＝n!／{2!×(n－2)!}＝n×(n－1)／2

・・・

a×{b^(n－1)}の係数は
n組の(a, b)からaを1個、bを(n－1)個選ぶ組合せなので
C(n, n－1)＝C(n, 1)＝n

b^nの係数は
n組の(a, b)からaを0個、bをn個選ぶ組合せなので
C(n, n)＝C(n, 0)＝1

以上から、
(a＋b)^n＝a^n ＋ n×{a^(n－1)}×b 
＋ n×(n－1)／2×{a^(n－2)}×(b^2)
＋ ・・・ ＋ n×a×{b^(n－1)} ＋ b^n

a→1、b→αをおくと
(1＋α)^n＝1 ＋ n×α ＋ n×(n－1)／2×(α^2) 
＋ ・・・ ＋ n×{α^(n－1)} ＋ α^n