Merrick se narodil 5. srpna 1862 v Leicesteru, Anglii. Už po narození si doktoři všimli, že je s chlapcem něco v nepořádku, kůži měl zvrásněnou a šedou. Ve dvou letech se u něj začala projevovat abnormální deformace; zvětšila se mu velká část hlavy, na čele mu vyrostla kostnatá boule, otekla mu pravá ruka a obě nohy. Po zranění ve třinácti letech měl doživotní problém s kyčlí, bolest mu znemožňovala normální chůzi.

Od mala trpěl posměšky svých spolužáků a širokého okolí. Ukazovali si na něj, nadávali mu, menší děti křičely hrůzou. O rodinu se opřít nemohl, urážky padaly i z jejich strany. Když mu matka zemřela, otec si našel jinou ženu, která Merricka nechtěla přijmout. Zlomený chlapec byl nucen přestěhovat se ke strýci.

S takovou tělesnou deformací nebylo pro Josepha snadné najít dobře placenou práci. Tři roky dřel v továrně na cigarety, než mu to postižení znemožnilo. Další manuální práce nepřipadala v úvahu, přímý prodej zase vyžadoval srozumitelnou mluvu, tu kvůli zvětšeným rtům a tvářím nedokázal. V 17 letech se chtěl osamostatnit, a utekl do chudobince. O čtyři roky později si uvědomil, že jeho tělesná deformace mu může být ku prospěchu. Zkontaktoval místního komika Sama Torra, který se s ním sešel a nabídl mu práci v panoptiku.

Říkali mu Sloní muž a přitahoval zákazníky ze širokého okolí. Tam si ho všiml i doktor Frederick Treves, který byl zcela fascinován jeho tělesným postižením. Přiměl Merricka podstoupit několik vyšetření a procedur, které mu měly zjednodušit život.

Vyhřívání na piedestalu v panoptiku nakonec netrvalo tak dlouho, jak by si přál, úřady se ho totiž rozhodly zavřít. Merrick byl ale natolik známý a chtěný, že mu nový manažer zařídil turné po Evropě. To po několika měsících skončilo v Belgii - Merricka nový manažer okradl o všechny životní úspory a vyhnal ho do bruselských ulic. Bez střechy nad hlavou a peněz na jídlo a pití propadal Merrick zoufalosti. Nakonec bylo jediným řešením vrátit se do Londýna a s pomocí několika vlídných občanů se mu to povedlo. V Londýně si ho našel doktor Treves a nabídl zdeptanému Merrickovi laskavost, kterou nedokázal odmítnout - doživotní lůžko v Londýnské nemocnici. Nebyl to klasický domov, ale Josephovi to stačilo. S doktorem navázal přátelství a jeho životní příběh se dostal až k britské královské rodině.

Merrick zemřel v dubnu 1890 v pouhých 27 letech. Příčina smrti byla podle pitvy zlomený vaz; Merrick v důsledku své těžké deformace nemohl spát v leže a musel sedět, tíha vlastní hlavy mu tak při nešikovném pohybu přivodila smrt. O Merrickově životě vzniklo spoustu biografických knih a filmů. Jedním z nejznámějších kousků je životopisné dílo Davida Lynche Sloní muž.

Merrickovy tělesné deformace jsou pro medicínu stále záhadou. Značnou část 20. století doktoři tvrdili, že Merrick trpěl neurofibromatózou typu 1. V roce 1986 zase určili, že za deformacemi stál Proteův syndromem, který zapříčiňuje nekontrolovatelný růst tkání. Nakonec to mohla být kombinace obou nemocí, DNA testy to však neprokázaly.