На самом деле для ejabberd и пары статичных и не слишком страничек хватит Старта или Разгона. Настройкой nginx или чего подобного полегче и отключением веб-сервера Apache, идущего в комплекте, вы добьетесь хорошей экономии памяти (однако, панель сервера ISPmanager без Apache работать не будет, запускайте его при необходимости и останавливайте при ненадобности).
Настройке ejabberd посвящена
статья, отлично характеризуемая одним словом — пошаговая. OpenFire, конечно, хорош, но тяжеловат, java памяти, самого ругаемого параметра VDS, кушает нещадно.
Установка софта на сервер — платная. Лучше разберитесь сами, благо, дорожка проторенная. Вики FirstVDS содержит несколько полезных статей. С хорошим знанием английского языка и умением искать мануалы можно вообще творить чудеса.