設問(1) ばねの縮み $x_1$

斜面Pに平行な方向のつりあい：重力の斜面平行成分 $mg\sin 30°$ とばねの弾性力 $kx_1$ がつりあいます。

$$ kx_1 = mg\sin 30° $$

$\sin 30° = \dfrac{1}{2}$ を代入します：

$$ kx_1 = mg \times \frac{1}{2} = \frac{mg}{2} $$

$x_1$ について解きます：

$$ x_1 = \frac{mg}{2k} $$

設問(2) ひもでつないだ場合のばねの伸び $x_2$

小球2の斜面Q方向のつりあい：

小球2にはたらく力：重力の斜面Q平行成分 $Mg\sin 60°$（下向き）、張力 $T$（上向き）

$$ T = Mg\sin 60° = Mg \times \frac{\sqrt{3}}{2} = \frac{\sqrt{3}Mg}{2} $$

小球1の斜面P方向のつりあい：

小球1にはたらく力：重力の斜面P平行成分 $mg\sin 30°$（下向き）、ばねの弾性力 $kx_2$、張力 $T$（上向き）

ばねが伸びている場合（$T > mg\sin 30°$ のとき）、弾性力は下向き（伸びを戻す方向）です。つりあいの式：

$$ T = mg\sin 30° + kx_2 $$

$T = \dfrac{\sqrt{3}Mg}{2}$ と $\sin 30° = \dfrac{1}{2}$ を代入して $x_2$ を求めます：

$$ \frac{\sqrt{3}Mg}{2} = \frac{mg}{2} + kx_2 $$ $$ kx_2 = \frac{\sqrt{3}Mg}{2} - \frac{mg}{2} = \frac{\sqrt{3}Mg - mg}{2} $$ $$ x_2 = \frac{\sqrt{3}Mg - mg}{2k} $$

補足：ばねの伸びか縮みかの判定

$x_2 > 0$（ばねが伸びている）条件は：

$$\sqrt{3}Mg > mg \implies M > \frac{m}{\sqrt{3}} = \frac{\sqrt{3}}{3}m$$

もし $M < \dfrac{\sqrt{3}}{3}m$ なら $x_2 < 0$ となり、ばねは縮んでいます。ただし問題の図2の状況（小球1が斜面P上、小球2が斜面Q上で静止）から、ばねが伸びていると読み取れます。