ช่วยดูให้หน่อยครับ ต้องแยกตัวประกอบหรือแทน u

ผมนั่งแก้โจทย์ข้อนี้ไม่ได้เลยครับ ลองแยกตัวประกอบดูก็ไม่ได้คำตอบตามที่เค้าให้ไว้ ลองแทน u ก็ไม่รู้จะแทนตัวไหนดี  ช่วยบอกทีครับว่าต้องทำยังไงก่อนถึงจะแก้โจทย์ข้อนี้ได้ ขอบคุณล่วงหน้าครับ