La instalación completa paso por paso, se describe aquí:
https://github.com/peatio/peatio/blob/master/doc/setup-local-ubuntu.md
El enlace también incluye cómo instalar las dependencias: Ruby, MySQL, Redis, RabbitMQ, Bitcoind, PhantomJS, etc. Como tienes un VPS, también dispondrás de permisos de administrador sobre tu máquina que te permite llevar a cabo las instalaciones anteriores.
Parece que también se puede desplegar la instalación en Docker, que permite aislar tu aplicación en un contenedor software, aislando ese entorno de ejecución del resto de la máquina:
https://github.com/peatio/peatio/tree/master/doc
También ten en cuenta que si algo va mal, solo podrás añadir incidencia en Peatio para los sistemas operativos soportados: Ubuntu Linux 14.04 LTS y Mac OS X Mavericks.
Bueno saberlo.
Aunque podría empezar primero con la PTC que es menos teriosa (o eso creo yo)
https://github.com/sdewan64/ptc