Mathematics Undergraduate about 10 yearsago

この問題の解答を教えてください！