Joseph Kalinowski naît à Vilna en Lituanie le 1er septembre 1835 dans une famille catholique. Deuxième fils d'André Kalinowski et de Joséphine Polonska ; sa maman meurt quelques semaines après la naissance de Joseph. Le père de Joseph se marie en secondes noces avec la sœur de sa première épouse qui lui donne trois enfants. Après neuf ans de mariage, André Kalinowski perd sa seconde épouse. Il contractera un troisième mariage avec Sophie Puttkamer de qui naîtront quatre autres enfants. Cette troisième mère eut sur Joseph une grande influence lorsque celui-ci fut éprouvé par une crise religieuse lors de ses études à l'Académie militaire de Saint Pétersbourg. Il faut préciser ici que la Pologne et la Lituanie étaient liées entre elles par une union fédérale signée à Krewno en 1385. Opprimées par la Russie depuis 1772, les tsars firent fermer les universités de Pologne et de Lituanie et les étudiants étaient contraints d'étudier dans les universités de Russie. C'est ainsi que Joseph s'orienta dans les sciences exactes à l'Ecole de Génie militaire à Saint-Pétersbourg. Ses études terminées en 1857, il reçoit le grade d'ingénieur-lieutenant ; il exerce pendant quelques temps sa profession d'ingénieur dans une région solitaire de Russie, à Kursk. Par la profonde solitude du lieu, par la lecture du livre des Confessions de Saint Augustin et d'un petit livre de piété mariale, s'amorce chez lui une profonde conversion. Il dira: « Je regarde la vie maintenant avec plus de calme, et ses plaisirs ont perdu pour moi beaucoup de leurs charmes .»

Par la suite, il sera assigné à Brest en Pologne où il découvrira la persécution que les tsars russes infligeaient aux catholiques de Pologne et de Lituanie. Il fallait à tout prix « russifier ces peuples». C'est ainsi que Joseph quitte l'armée russe à laquelle il appartenait pour se consacrer à la défense de sa nation. Il participe à l'Insurrection polonaise de janvier 1863 contre la puissance militaire russe sachant d'emblée que cette insurrection ne pouvait qu'échouer. 

Le 24 mars 1864, Joseph est arrêté par le gouvernement russe et condamné à mort mais sa peine est commuée à dix ans de travaux forcés en Sibérie. Le 29 juin 1864, avec plusieurs compatriotes, il quitte Vilna pour la Sibérie. La déportation dure dix mois et est empreinte de grandes souffrances. Joseph se comporte envers ses compagnons de misère avec une très grande charité. Il puise la force de supporter les souffrances dans la prière. Il écrira lui-même: « Le monde peut me priver de tout, mais il me restera toujours un lieu caché qui lui est inaccessible: la prière! En elle, on peut recueillir le passé, le présent et l'avenir et les placer sous le signe de l'espérance. Oh Dieu, quel grand trésor tu accordes à ceux qui espèrent en toi. »

C'est durant cette longue période d'exil en Sibérie qu'il se sent appelé au sacerdoce. Après dix ans d'exil, Joseph est libéré le 2 février 1874. Il pouvait s'établir en Pologne mais n'avait pas le droit de retourner en Lituanie, sa terre natale.

A son retour d'exil, Joseph Kalinowski, reconnu pour ses qualités d'éducateur à la foi profonde, est sollicité pour devenir précepteur du jeune prince Auguste Czartoryski, âgé de 16 ans. C'est à Cracovie en Pologne à l'automne 1874 qu'il rencontre pour la première fois le prince Auguste mais aussi sa tante, jadis princesse, devenue religieuse carmélite déchaussée du nom de Marie-Xavière de Jésus. Or cette religieuse carmélite, après avoir sollicité pendant longtemps la prière dans d'autres monastères afin que le Seigneur envoie celui qui favoriserait le développement de l'Ordre du Carmel en Pologne, reconnaît en Joseph Kalinowski la personne toute désignée pour cette mission. Il fallait donc prier dorénavant pour la vocation au Carmel de Joseph K.

Pendant un peu plus de deux ans, Joseph s'occupe de l'éducation du prince Auguste à Paris. A l'automne 1876, il avoue dans une lettre adressée à sa famille, son désir profond de se consacrer au Seigneur dans l'Ordre du Carmel. L'été 1877, il prend congé du jeune prince Auguste et se rend en Autriche à Linz pour rencontrer le provincial des Carmes Déchaux de la province austro-hongroise à laquelle était rattaché l'unique couvent carmélitain de Pologne à Czerna près de Cracovie.

Le 15 juillet 1877, Joseph Kalinowski entre au noviciat des Carmes Déchaux à Grantz en Autriche; il est âgé de 42 ans. On lui donne le nom de Raphaël de Saint Joseph. Il prononce ses premiers vœux le 26 novembre 1878 et est envoyé au couvent de Raab en Hongrie pour y effectuer ses études de philosophie et de théologie. 

Le 27 novembre 1881, il prononce ses vœux solennels et est envoyé en Pologne au couvent de Czerna. Il sera ordonné prêtre en 1882 à l'âge de 46 ans. Dès l'année 1883, il devient prieur de ce couvent. C'est de la communauté de Czerna que refleurira le Carmel masculin en Pologne.

Le ministère du père Raphaël de Saint Joseph sera des plus féconds. Vicaire provincial et visiteur des monastères de carmélites, il sera leur confesseur et leur directeur spirituel. De plus il est le promoteur de deux fondations de monastères de carmélites dont un en Ukraine. Encouragé par le père général de l'Ordre du Carmel, le père Gotti, il fonde un couvent masculin à Wadowice et un petit séminaire dont le but est de former des garçons qui ont un attrait vocationnel pour le Carmel. Son ministère rejoint aussi les fidèles laïcs en organisant le Tiers-Ordre séculier et la Confraternité du Carmel. Il aura aussi le souci de recouvrer les archives conventuelles du passé, dispersées lors des suppressions des monastères. De nombreux documents relatant l'histoire des anciens couvents seront retrouvés et publiés sous le titre: « Chroniques Carmélitaines ». Plusieurs ouvrages carmélitains seront aussi publiés grâce à son initiative.

Le père Raphaël de Saint Joseph sera le « restaurateur du Carmel polonais » non seulement par ses fondations et initiatives diverses contribuant à l'essor du Carmel en Pologne mais surtout par sa vie d'union à Dieu, soutenue par l'oraison, le recueillement, le silence et l'austérité de vie. Il dira lui-même: «Notre tâche principale au Carmel est de converser avec Dieu en toutes nos actions. »

Il meurt à l'âge de 72 ans au couvent de Wadowice le 15 novembre 1907, jour de la commémoraison de tous les défunts de l'Ordre du Carmel.

Rafael Kalinowski fut béatifié à Cracovie le 22 juin 1983 et canonisé à Rome le 17 novembre 1992 par Saint Jean Paul II (Karol Józef Wojtyla, 1978-2005), pape originaire de la ville de Wadowice où mourut le père Rafael.