方針としては垂線の足を求めるために、AHと直線L1のなす角が90度すなわち内積0になることを用いて答えを導こうとしています。

問題文より、
直線L1は点(1,1,0)を通ってベクトル(1,1,-1)と同じ向きに伸ばした直線です。つまり直線L1はベクトル(1,1,-1)に並行な直線です。
AHと直線L1が垂直⇔AHとベクトル(1,1,-1)が垂直、
ということなので質問の画像にある解答では a=(1,1,-1)とわざわざおいて解いてます。別にわざわざaとおかなくても解けるんですけどね。