自社でライセンスサーバーを構築する必要はありますか(セルフホスト認証ライセンス)

はい、必要です。Ranorex License Managerをマシンにインストールして、ライセンスを管理します。

Ranorex License Managerは、ブラウザ上で動作します。
ブラウザ上で、URL(http://localhost:60081/licenses)を指定して起動するか、Windowsの検索窓から「Ranorex Subscription License Manager」を検索して起動します。