構文木はどう処理するか?

構文木インラインアセンブラの場合は、アセンブラの抽象構文木に変換された後、ホスト言語のコンパイル結果と混じって1つのコードを出力することになるでしょう。

コード出力部が十分小さければ、実行時にJITすることも同じロジックを使って行えるようになるはずです。
ただし、最適化にはあまり時間をかけずにアセンブルの実行速度が出るような工夫が必要でしょう。