先行詞the houseをwhichに代入すると、関係詞節、In the house he lives.は独立した文になるので、inから関係詞節がはじまっている。whichから関係詞節がはじまったのではないと理解することがポイントです。
では次の文はどうでしょうか。
This is shorthand writing, by means of which we can keep up with the talker.
まず、meansを先行詞と考えてwhichに代入。Of the means we can keep up with the talker.となる。しかしこの文に意味を認めることができない。考えを改めて、shorthand
writing を先行詞と考え、代入。By means of shorthand writing we can keep up with the
talker.意味の通る文となる。