Não sei nem ligar o computador direito.. imagina invadir um sistema desses
Sobre as tecnologias que eles usam pra rodar esse Sistema de Pagamentos Instantâneos, eles usam um serviço de uma empresa que chama Red Hat. Parece que eles fornecem soluções com base em Software OpenSource, para o SPI eles estão usando o Red Hat AMQ. Isso dá pra ler mais sobre aqui.
Sobre o que eles chamam de API Pix, que é o que os bancos efetivamente utilizam, dá pra ler mais sobre no Manual de Padrões para Iniciação do Pix. Essa parte não é tão complicada não, tem algumas coisas técnicas mas no geral é bem fácil de entender a comunicação.
Legal os links ein, acabei caindo em uns relatórios aqui com diversas informações.. uma hora vou dar uma olhada com mais calma, é muita coisa.