Rodil se je leta 1831 v škofiji Nancy (Francija) v pobožni družini. Zato ni čudno, da se je odločil za duhovniški poklic. V škofijskem bogoslovnem semenišču pa se je srečal z redovniki in misijonarji Oblati Brezmadežne. Njihova misijonska vnema je tako vplivala na bogoslovca Jožefa Gerarda, da se je odločil vstopiti v njihov red in postati misijonar.

Po enem letu noviciata so mu predstojniki že dovolili, da je naredil večne zaobljube. V samostanskem arhivu je o njem zapisano: »Jožef Gerard je bil vzoren novinec, pobožen, poln notranjega duha in solidnih kreposti. Odlikovala ga je ljubezen do sobratov, rad je ubogal predstojnike in bil je ves vnet za misijone v tujih deželah.«

Po dveh letih bogoslovnega študija je bil posvečen za diakona in dobil odlok, da odide za misijonarja v Južno Afriko. Tam je bil šele leta 1837 ustanovljen prvi apostolski vikariat, čez deset let drugi in leta 1850 v koloniji Natal tretji. Tega je Kongregacija za širjenje vere zaupala oblatom Brezmadežne in tja je bil poslan Jožef Gerard.

Prva leta bivanja na samostanski postojanki se je diakon Jožef pripravljal na mašniško posvečenje in ga po enem letu priprave tudi prejel. Še eno leto se je izpopolnjeval v znanju angleščine (Južna Afrika je bila angleška kolonija) in se učil tudi jezika domačega plemena Zulu. Mednje je bil potem poslan p. Jožef, toda domačini so pokazali popolno nezanimanje za krščansko vero. Zato so ga poslali za dve leti delovat med Evropejce, nato pa spet k plemenu Zulu. Domačini so prihajali blizu, toda za krst in spreobrnitev se niso odločili.

Misijonarji oblati so se tedaj odločili za prodor v notranjost obsežnega apostolskega vikariata in prišli v kraljestvo Basotho. Tu jim je kralj dovolil misijonsko delo. V dolini Tlo-u-tle so ustanovili misijon Božje matere, pozneje imenovan Roma. Tu je bil p. Gerard predstojnik od 1862 do 1875. Posvetil se je vzgoji moške mladine in krstil okoli 500 članov tega plemena. Predstojniki so ga potem poslali ustanavljat nov misijon čisto na severovzhodu velike dežele, imenovan Sveta Monika. Tudi tam je bilo v dvaindvajsetih letih krščenih okoli 500 domačinov. Nato so ga poklicali nazaj na postajo Roma in tam je deloval še do leta 1914, ko je 29. maja umrl.

Ljudje so občudovali v p. Gerardu moža molitve. Sam pa je o svojih misijonskih izkušnjah napisal: »Skrivnost, da te ljubijo, je, da ti ljubiš. Ljubiti tudi nekristjane. Ko jih vidiš, se lahko razžalostiš in se vprašuješ, kako bi jih mogel spreobrniti. Odgovor najdeš na vsaki strani evangelija: treba jih je ljubiti, ljubiti kljub vsemu in povsod.« Za blaženega je p. Gerarda razglasil papež Janez Pavel II. 15. septembra 1988.