オーバーレイレンダラーを使うとGPU使用率が100%になる
私のところでも症状が再現でき、具体的にはGPU使用率のうちLegacy Overlayが100%と非常に高くなりました。
なお、アマレコTV4の設定でEVRを使うようにすればGPU使用率は下がりますので、基本的にはアマレコTV4がどうこうではなく使用するビデオレンダラーの振る舞いとなります。
ただし、このタスクマネージャにおけるGPU使用率が実際のビデオカードの状態を反映しているとは思えないので、GPU使用率が100%だからといってビデオカードに大きな負荷がかかっているのかどうか、ビデオカードのステータスも合わせて調べてみました。
アイドル状態

オーバーレイレンダラーでプレビュー

EVRでプレビュー

| ビデオカード | タスクマネージャ | ||||
動作クロック | GPU使用率 | GPU温度 | GPU 0 | 3D | オーバーレイ | |
アイドル | 139MHz | 0% | 37℃ | 0% | 0% | 0% |
オーバーレイ | 139MHz | 8% | 41℃ | 100% | 11% | 100% |
EVR | 607MHz | 13% | 42℃ | 17% | 17% | 0% |
いずれもGPU温度を見る限りほとんどビデオカードへは負担がかかっていないように思います。
また、どちらかと言えばEVRの方が動作クロックが上がっておりGPUへの負担はオーバーレイよりEVRの方が大きいと言えますが、いずれもGTX1080の能力からしたらごくごく僅かです。
このことからタスクマネージャ上のGPU使用率と実際のビデオカードのステータスとは異なる場合があることが判ります。
タスクマネージャのGPU使用率について内容を把握しておりませんが、なんとなくGPUが持つ様々なリソース(3D機能およびエンコーダーやデコーダー、オーバーレイなど)を個別に管理していて、GPU 0として代表値を表示するようになっているけど、オーバーレイレンダラーを使うとオーバーレイに関するリソース(Legacy Overlay)の使用率が100%となり、それがあたかもGPU全体が100%であるかのように表示されてしまう。と言った、あくまで表示のしかたの問題と捉えていいのではないでしょうか。
オーバーレイレンダラーを使ってタスクマネージャ上のGPU使用率が100%になったとしてもGPU温度が上昇してビデオカードのファンが激しく回りだすと言ったことは無いと思います。