室内・軒先アンテナで地上デジタル放送受信11kw

なるほど。ブースターが飽和してたのか。
ブースターに入れる電波は最大入力レベル[定格入力]（このブースタはレベルまで出力できます値）を超えないように計算汁っと。

　　最大入力レベル [定格入力] ＝ 最大出力レベル[定格出力] − 動作利得（増幅度） + アッテネーター（ATT）

ブースターに入力される電波が90dBで40dB増幅させると130dB、最大出力レベル[定格出力]110dBだと20db飽和する。
ブースタのATT-10をONにして入力にATT-10付けると-20dB下がって110dBになる。
ブースターに入力される電波が60dBで40dB増幅させると100dB、最大出力レベル[定格出力]110dBを超えないので
アッテネーターなしでも適正な出力となる。

でも、アンテナがどれぐらいの電波を受信するのか正確にはいくつかわからないっと。
そこで行き詰ったら日本アンテナのNL30Sとアッテネータと換算表で計測するんだね。わかります。