物質中を光が進むときの屈折と全反射の基本から出発し、光ファイバーの導波原理、さらに径方向の定在波条件（モード）にまで踏み込む問題です。スネルの法則を様々な状況で適用する力が問われます。
光が屈折率の大きい物質 A から小さい物質 B に入ると、屈折角は入射角より大きくなる。入射角を大きくしていくと、屈折角が90度に達する角度（臨界角）がある。それ以上の入射角では光は全て反射される（全反射）。
屈折率が \(n_\mathrm{A}\) の物質 A と屈折率 \(n_\mathrm{B}\) の物質 B が平らな面で接しており、\(n_\mathrm{A} > n_\mathrm{B}\) とする。A から B へ光が入射したとき、境界面の法線に対する角度として入射角 \(\phi_\mathrm{A}\)、反射角 \(\phi_\mathrm{A}'\)、屈折角 \(\phi_\mathrm{B}\) を定める。
スネルの法則：
$$n_\mathrm{A} \sin\phi_\mathrm{A} = n_\mathrm{B} \sin\phi_\mathrm{B}$$空欄 あ：屈折角 \(\phi_\mathrm{B}\) は
$$\phi_\mathrm{A}' = \phi_\mathrm{A}, \quad \sin\phi_\mathrm{B} = \frac{n_\mathrm{A}}{n_\mathrm{B}} \sin\phi_\mathrm{A}$$\(n_\mathrm{A} > n_\mathrm{B}\) より \(\frac{n_\mathrm{A}}{n_\mathrm{B}} > 1\) であるから、\(\phi_\mathrm{B} > \phi_\mathrm{A}\)（屈折角 > 入射角）。
空欄 い：\(\frac{n_\mathrm{A}}{n_\mathrm{B}}\)
\(\phi_\mathrm{A}\) がある値 \(\phi_0\) より大きいとき、光は境界面で全反射される。臨界角 \(\phi_0\) は \(\phi_\mathrm{B} = 90°\) となる条件から：
$$n_\mathrm{A} \sin\phi_0 = n_\mathrm{B} \sin 90° = n_\mathrm{B}$$ $$\sin\phi_0 = \frac{n_\mathrm{B}}{n_\mathrm{A}}$$空欄 う：\(\displaystyle \sin\phi_0 = \frac{n_\mathrm{B}}{n_\mathrm{A}}\)
ガラス（\(n_\mathrm{A} = 1.5\)）から空気（\(n_\mathrm{B} = 1.0\)）への臨界角：
$$\sin\phi_0 = \frac{1.0}{1.5} = 0.667 \quad \Rightarrow \quad \phi_0 \fallingdotseq 41.8°$$水（\(n_\mathrm{A} = 1.33\)）から空気の場合：\(\phi_0 \fallingdotseq 48.8°\)
全反射は屈折率の大きい媒質から小さい媒質へ入射するときのみ起こる。臨界角 \(\sin\phi_0 = n_\mathrm{B}/n_\mathrm{A}\) は暗記必須。\(\phi_\mathrm{A} \geq \phi_0\) で全反射。
光ファイバーは中心部（コア、屈折率 \(n_1\)）を外側（クラッド、屈折率 \(n_2 < n_1\)）で囲んだ構造。コアに入った光がクラッドとの境界で全反射を繰り返して伝搬する。端面から入射する光の角度が大きすぎると全反射条件を満たせず、光が漏れ出す。
光ファイバーは屈折率の異なるガラスを同軸状の繊維にしたものである。中心部分をコア（屈折率 \(n_1 > 1\)）、外側部分をクラッド（屈折率 \(n_2\)、\(n_2 > 1\)）とよぶ。
屈折率の関係は①~③のうち \(n_1 > n_2\) が正しい（コアの方が屈折率が大きい）。
コア内で光の進行方向と光ファイバーの軸方向のなす角度を \(\theta\) とする。\(\theta\) がある角度 \(\theta_1\) より小さければ、(1) の議論から光はコアとクラッドの境界で全反射される。
境界面での入射角は \(\frac{\pi}{2} - \theta\) であるから、全反射条件は：
$$\sin\left(\frac{\pi}{2} - \theta\right) \geq \frac{n_2}{n_1}$$ $$\cos\theta \geq \frac{n_2}{n_1}$$空欄 お：\(\displaystyle \sin\theta_1 = \sqrt{1 - \frac{n_2^2}{n_1^2}} = \frac{\sqrt{n_1^2 - n_2^2}}{n_1}\)
光ファイバーの端面において空気中からコアに光が入射する際、軸方向に対する光の入射角を \(\theta_\mathrm{m}\) とする。端面でのスネルの法則（空気の屈折率 = 1）：
$$\sin\theta_\mathrm{m} = n_1 \sin\theta$$光がコアとクラッドの境界で全反射されるためには \(\theta \leq \theta_1\)、すなわち \(\sin\theta \leq \sin\theta_1\) が必要。よって：
$$\sin\theta_\mathrm{m} = n_1 \sin\theta \leq n_1 \sin\theta_1 = n_1 \cdot \frac{\sqrt{n_1^2 - n_2^2}}{n_1} = \sqrt{n_1^2 - n_2^2}$$空欄 か：\(\displaystyle \sin\theta_\mathrm{m} \leq \sqrt{n_1^2 - n_2^2}\) のとき全反射する。
\(\sqrt{n_1^2 - n_2^2}\) を光ファイバーの開口数（NA: Numerical Aperture）とよぶ。
典型的な光ファイバー：\(n_1 = 1.50\)、\(n_2 = 1.45\) のとき
$$\mathrm{NA} = \sqrt{1.50^2 - 1.45^2} = \sqrt{2.25 - 2.1025} = \sqrt{0.1475} \fallingdotseq 0.384$$ $$\theta_\mathrm{m,max} = \arcsin(0.384) \fallingdotseq 22.6°$$端面から約23度以内の角度で入射した光だけが全反射で伝搬できる。
光ファイバーの全反射条件を導く鍵は、端面での屈折（スネルの法則）と境界面での全反射（臨界角）を組み合わせること。開口数 \(\mathrm{NA} = \sqrt{n_1^2 - n_2^2}\) は受け入れ可能な光の角度範囲を表す。
光ファイバーの径方向に光の定在波が形成される。コアの直径と波長の関係から、定在波が立つ条件（モード条件）が決まる。大きな \(N\) のモードほど波長が短くないと定在波が成立しないため、カットオフ波長が存在する。
光ファイバー中を進む光について、コアの軸を含む平面内を考える。コア中の光の波長を \(\lambda_1\) とし、光の進行方向とコアの軸方向のなす角度を \(\theta\) とする。
径方向には波長 \(\lambda_1\) の波が生じていると見なせる。径方向の波面間の間隔を \(\lambda_d\) とすると：
$$\lambda_d = \frac{\lambda_1}{\sin\theta}$$空欄 き：\(\displaystyle \lambda_d = \frac{\lambda_1}{\sin\theta}\)
半径 \(r_1\) のコア内で径方向に定在波が形成される。自然数 \(N\) に対し、コアの直径が \(\lambda_d\) の \(\frac{N}{2}\) 倍であれば定在波が成り立つとすると：
$$2r_1 = N \cdot \frac{\lambda_d}{2} \quad \Rightarrow \quad \sin\theta = \frac{N\lambda_1}{4r_1}$$ではなく、正確には問題文から「コアの直径が \(\lambda_d\) の \(\frac{N}{2}\) 倍」すなわち：
$$2r_1 = \frac{N}{2} \lambda_d$$ではなく、定在波条件として：
$$2r_1 = N \cdot \frac{\lambda_d}{2}$$ $$\sin\theta = \frac{N \lambda_1}{4 r_1}$$空欄 く：\(\displaystyle \sin\theta = \frac{N\lambda_1}{4r_1}\)
このうち \(\sin\theta\) が (2) で求めた条件を満たし、かつ \(\lambda_1\) がある値 \(C_1\) より大きいと、\(\theta\) がある値 \(\theta_1\) より小さくなってコア内を伝搬できる光のモードが \(N = 1\) のみとなる。この下限 \(C_1\) はカットオフ波長とよばれる。
\(\lambda_1\) とコア中の波長 \(\lambda_0\)（空気中での波長）の関係は \(\lambda_1 = \frac{\lambda_0}{n_1}\) であるから、カットオフ波長 \(C_1\) を \(r_1, n_1, n_2\) を用いて表す。
\(N = 1\) のモードの条件 \(\sin\theta_1 = \frac{\lambda_1}{4r_1}\) と全反射条件 \(\sin\theta_1 = \frac{\sqrt{n_1^2 - n_2^2}}{n_1}\) から：
$$\frac{\lambda_1}{4r_1} \leq \frac{\sqrt{n_1^2 - n_2^2}}{n_1}$$ $$\lambda_1 \leq \frac{4r_1\sqrt{n_1^2 - n_2^2}}{n_1}$$\(\lambda_0 = n_1 \lambda_1\) を使って空気中の波長に換算：
$$C_1 = \frac{\lambda_0}{n_1} \text{のカットオフ} \quad \Rightarrow \quad C_1 = \frac{4r_1\sqrt{n_1^2 - n_2^2}}{n_1}$$空欄 こ：\(\displaystyle C_1 = \frac{4r_1 \sqrt{n_1^2 - n_2^2}}{n_1}\)
モード \(N\) が存在するための条件は：
$$\sin\theta_N = \frac{N\lambda_1}{4r_1} \leq \sin\theta_1 = \frac{\sqrt{n_1^2-n_2^2}}{n_1}$$ $$N \leq \frac{4r_1\sqrt{n_1^2-n_2^2}}{n_1\lambda_1} = \frac{4r_1 \cdot \mathrm{NA}}{n_1 \lambda_1}$$波長 \(\lambda_1\) が大きい（長波長）ほど \(N\) の上限が小さくなり、\(\lambda_1 \geq C_1\) のとき \(N = 1\) しか伝搬できない。これがシングルモード条件である。
\(n_1 = 1.50\)、\(n_2 = 1.45\)、\(r_1 = 4.0\,\mu\mathrm{m}\) のとき：
$$C_1 = \frac{4 \times 4.0 \times 10^{-6} \times \sqrt{1.50^2 - 1.45^2}}{1.50}$$ $$= \frac{16.0 \times 10^{-6} \times 0.384}{1.50} = \frac{6.14 \times 10^{-6}}{1.50} \fallingdotseq 4.1\,\mu\mathrm{m}$$可視光（\(\lambda_0 \fallingdotseq 0.5\,\mu\mathrm{m}\)）ではマルチモード、通信用（\(\lambda_0 = 1.3\,\mu\mathrm{m}\)）でもマルチモード。シングルモードにするにはコア径をさらに小さく（\(r_1 \fallingdotseq 2\,\mu\mathrm{m}\)）する必要がある。
光ファイバーのモード条件は、径方向の定在波の条件と全反射条件の組み合わせで決まる。波長が長いほど伝搬できるモード数が少なくなり、カットオフ波長以上ではシングルモード（\(N=1\)）のみとなる。通信用光ファイバーではシングルモードが使われる。