恐らく、長方形が正方形となる時にMaxとなるのでは。
そうすると、BHとAHの比が出せますから、後は相似を用いて比を出していけば解けると思います。
計算はめんd…書きにくいので省略させてください。