AD8307を入手しましたので先ずは動作確認です。100Ω2Wのチップ抵抗を並列に接続し終端。0.1μFでAD8307に接続。電源は5V。各周波数における入力信号vs出力電圧のグラフは以下の通りで画像左。画像右はデータ使途より抜粋。

HP 8640Bの信号レベルの絶対値が正確ではないので、データシートとの差が5~10dBm近くあるようですが、グラフの傾きはデータシート通りの25mV/dBに近いようです。周波数の違いによる補正は何かしら必要となるようです。10MHzと500MHzとの差が10dB以上ありそうです。arduinoでレンジを決めて値を決めるなど何かしら対策が必要になるかもしれません。入力端子による乗数を変化させるのも一つの案ですね。いずれにせよ絶対値との差をどう埋めるかが問題です。課題、傾きと切片の調整。

追記
傾きは概ね25mV/dB。
10MH→25.10mV/dB、50MHz→25.01、100MHz→24.87、200MHz→25.00
300MHz→24.98、400MHz→24.97、500MHz→24.47