数学 高校生 約10年前

この問題はどう解くのでしょうか???