16 進数を base64 に変換してみてください。この答えは 1 つのオプションです。他にも多数の実装があります。
どうすれば 16 進数から base64 に変換できますか?
おそらく次のようなものです:
echo mydata | sha1sum | xxd -r -p | base64
... あなたの問題を解決します。
同様の質問については、https://unix.stackexchange.com/questions/82561/convert-a-hex-string-to-binary-and-send-with-netcat を参照してください。