Ce n'est que le samedi 8 juin 1839 que les premières pénitentes purent s'installer à Anglet, sous la direction de Sr Marie-François de Paule (Gracieuse Bodin). À Bayonne, au Grand-Paradis, restaient seulement les orphelines, sous la direction d'Élise. Sa tâche n'était pas facile. Les lettres échangées avec son frère en témoignent. Le 17 juin, l'abbé Cestac cherche à la réconforter. Il l'encourage en l'exhortant à avoir une vue spirituelle de la situation.
Dans les oeuvres entreprises, les « croix intérieures et extérieures » sont toujours nombreuses, mais si on les considère comme une oeuvre de Dieu, « c'est à lui que nous devons nous adresser ; c'est lui qui prendra la direction des choses et les conduira à leur véritable fin : sa gloire et le salut des âmes ».
À Notre-Dame du Refuge, les débuts furent très difficiles. On ne s'improvise pas agriculteur ou agricultrice. Dans ses Notes, Cestac le dit : « La vie matérielle y était difficile. Personne ne savait travailler, aussi le travail [agricole] ne rendait rien ou à peu près rien, de sorte que vous me fîtes sentir les étreintes de la pauvreté et les vraies angoisses de l'indigence. »
L'abbé Cestac, par tempérament, ne se décourage pas devant les difficultés. Pour mieux comprendre ce que nécessite l'exploitation d'un domaine agricole, il va se rendre dans une abbaye cistercienne célèbre alors pour ses réalisations, l'abbaye de Melleray, dans l'actuel département de Loire-Atlantique. (à suivre)