W miejscu gdzie obecnie stoi kościół parafialny p.w. św. O. Rafała Kalinowskiego, pod koniec XIX w. została wybudowana cerkiew prawosławna pw. Św. Jakuba Apostoła, jako świątynia garnizonowa dla miasteczka przy poligonie artyleryjskiego wojsk carskich. Cerkiew została wyświęcona 11 stycznia 1896 roku. W czasie I wojny światowej w zabudowaniach byłej cerkwi odbywały się nabożeństw m.in. dla formujących się w Rembertowie w 1917 roku „Legionów Polskich”. Z tego miejsca w sierpniu 1920 roku były błogosławione oddziały polskie wyruszające na pole walki w czasie bitwy zwanej „Cudem nad Wisłą”. Po wojnie, na mocy traktatu pokojowego, teren cerkwi, jak i cały carski garnizon, zostały formalnie przekazane stronie polskiej i powstała tutaj stała kaplica garnizonowa w której kapelani wojskowi czynili posługę duszpasterską dla stacjonujących na tym terenie oddziałów Wojska Polskiego.
Kapelanami garnizonu w okresie XX lecia wojennego byli kolejno księża: ks Kazmierz Kalinka, ks Antoni Żytniewski, ks. dr Józef Herbert, ks. Julian Godlewski, ks. Litwiński, ks. kpt. Stanisław Małek. Szczególnie ks. Małek zapisał się wieloma zasługami dla rozwoju kościoła garnizonowego i Rembertowa: był m.in. inicjatorem budowy i współautorem pomnika poległych żołnierzy na polach Ossowa, przewodniczył staraniom o budowie kościoła parafialnego na Nowym Rembertowie, był w Komitecie Budowy Szkoły Powszechnej nr 3, a także pomysłodawcą postawienia obelisku Marszałka Józefa Piłsudskiego na placu przed bramą główną CWPiech (obecnie Akademii Obrony Narodowej). W okresie międzywojennym kaplicę przebudowywano, a także na wieży zamontowano zabytkowy dzwon przywieziony prawdopodobnie z wyprawy kijowskiej. Napis na dzwonie brzmi: SIT NOMEN BENEDICTUM 1687 (Niech będzie błogosławione imię Pańskie 1687)
W czasie okupacji hitlerowskiej teren Poligonu na którym znajduje się kaplica, był niedostępny dla Polaków i stacjonowały tam jednostki niemieckie. Prawdopodobnie w tym czasie kaplica pełniła rolę świątyni dla żołnierzy niemieckich.
Po wojnie do 1949 roku w kaplicy odbywały się nabożeństwa, które odprawiał najczęściej delegowany z parafii Matki Boskiej Zwycięskiej ks. Andrzej Tarcikowski. W roku 1950 kaplica, jak większość świątyń na terenach garnizonów wojskowych została zamknięta. Przez jakiś długi zabudowania kaplicy stała opuszczona i zdewastowana, a latach siedemdziesiątych zorganizowano w niej magazyn sprzętu hydraulicznego kwatermistrzostwa miejscowej administracji koszar.
Dopiero w październiku 1991 roku, po zmianie ustroju,
w odzyskanej i odremontowanym kaplicy odbyła się, po ponad 40 latach, pierwsza Msza Św. na której powołano parafię garnizonową z ks. Pietrusiakiem jako proboszczem. Dnia 15 listopada 1992 r. odbyła się uroczystość na której Ksiądz Prymas Józef Glemp w asyście Biskupa Polowego Sławoja Leszka Głódzia dokonał konsekracji kościoła.
Widok na ołtarz główny.