L'ordre du Carmel tire son nom et son origine du mont Carmel en Palestine. Bien qu'il n'ait pas véritablement de fondateur, ses membres – les carmes – s'en reconnaissent un en la personne du prophète Élie.
L'ordre est né au carrefour des XIe et XIIe siècles lorsque des ascètes décident de s'installer dans des grottes de la susdite montagne afin d’adopter une vie érémitique faite de prière et de silence. En 1210, celui-ci obtient une règle du patriarche de Jérusalem, Albert Avogadro, avant d'être contraint, suite aux attaques répétées des Sarrasins, de quitter la Terre sainte pour l'Europe. Les carmes sont alors introduits en France par Louis IX en 1238, puis, en 1242, voient leur règle profondément modifiée : devenus des religieux, ils peuvent désormais fonder d'autres monastères en dehors des déserts et pratiquer la vie en communauté. Rapidement après, en 1247, l'ordre obtient du pape Innocent IV sa reconnaissance officielle.
Ce n'est que quatre siècles plus tard que naît le couvent des carmes de Josselin dont les deux activités principales ont été la pratique d'exercices pieux et la prédication dans les paroisses alentours. Dans son Dictionnaire historique et géographique de la province de Bretagne dédié à la nation bretonne (vers 1780), Jean-Baptiste Ogée le décrit en ces termes : "Le couvent des carmes de Josselin fut établi en 1625, à la demande de la ville. Ces religieux sont pauvres, édifiants, peu nombreux, et utiles au clergé séculier." Cette installation répond alors à un nouvel élan de piété qui envahit Josselin au XVIIe siècle. Les carmes sont au nombre de six à leur arrivée et s'installent provisoirement dans les maisons du Chapeau-Rouge et de La Rivière, sises dans le faubourg Saint-Martin, dont ils ont fait l'acquisition en 1627 auprès d'une certaine Isabeau Rolland, dame des Clos. Dans son ouvrage intitulé Communautés situées hors de Vannes (Vannes, Galles, 1908), Joseph-Marie Le Mené évoque cette acquisition en citant un acte de 1627 qu'il a pu consulter : "Comme ainsy soit que dès le 11e jour de septembre de l'année 1627, les révérends pères carmes de la ville de Josselin, ayant fait acquest d'avecques damoiselle Isabeau Rolland, dame des Clos, d'une maison couverte d'ardoise, avecques sa court, jardin, issues et déports, appellée la maison du Chapeau-Rouge, et d'autre maison aussy couverte d'ardoise, appellée la maison Hervo ou de La Rivière, avecques les appartenances et dépendances des d. maisons, sizes et situées au faubourg de Saint-Martin de Josselin, dans le fief temporel du prieuré dudit Saint-Martin, noble et discret messire Alain Bonin, lors titulaire dudit prieuré, se seroit opposé, aux plaids généraux tenus en la jurisdiction de Ploërmel, à l'appropriement que y prétendaient obtenir desdites maisons et dépendances lesdits révérends pères carmes, et auroit conclu à l'encontre d'eux à ce qu'ils eussent à vuider leurs mains dudit acquest, comme estants gens de mainmorte." (p. 147).
Assez rapidement, les carmes émettent la volonté de quitter leur installation provisoire pour un couvent définitif. Ce faisant, en 1636, ils obtiennent la cession par la communauté d'habitants de Josselin d'une partie des deniers d’octroi sur le vin et le cidre pendant une durée de neuf ans. Trois ans plus tard, en échange de leurs maisons du Chapeau-Rouge et de La Rivière, ils reçoivent la maison et les terres de La Carrière à Saint-Martin de Josselin en vue de la construction d'un nouveau bâtiment conventuel. Au cours de cette même année 1639, Marguerite de Rohan leur remet les droits d'indemnité dus pour cette acquisition à condition que ses armes soient mises en évidence dans leur établissement. S'ensuit la construction du couvent et d'une église dont la première pierre est bénite et posée par l'évêque de Saint-Malo, Achille de Harlay de Sancy, le 5 août 1640. Le 8 septembre 1655, le roi Louis XIV approuve le couvent par lettres patentes.
Dans le même temps, et depuis 1627, les carmes reçoivent nombre de fondations de messes et de services. Ils font également quelques acquisitions en sus de la terre La Carrière : ainsi les propriétés de La Noé Sèche à Josselin, de La Ville Gourdan à Guégon et du Bois Hellio à Ploërmel.
Les carmes de Josselin périclitent à la veille de la Révolution, tant et si bien qu'ils ne sont plus qu'au nombre de trois en 1790. Le 10 novembre de la même année, ils déclarent renoncer à la vie en communauté. S'ensuit, le 31 décembre, l'acquisition par la municipalité de Josselin de la maison et de l'enclos, puis la vente, dans les années qui suivent, des autres terres.
En 1818, le bâtiment est finalement cédé à la Congrégation des filles de la sagesse qui reste à Josselin jusqu'en 1994 et à laquelle succèdent de nouvelles communautés religieuses.