Fils de Paul Leclerc, haut fonctionnaire à l'Unesco et d'Evelyne Merlot, d'origine guadeloupéenne, il est l'interprète de nombreuses chansons d'Étienne Roda-Gil. Il est notamment le demi-frère du journaliste Gérard Leclerc. Ses parents divorcent lorsqu'il est encore jeune.
Il habite alors à Bourg-la-Reine et, par des voisins, fait du scoutisme laïc chez les Éclaireurs de France dans le groupe Montaigne.
C'est pendant le spectacle Hair qu'il rencontre France Gall. Ils vivent ensemble jusqu'en 1974. Il lui écrit Chasse-neige. Elle lui inspire Souffrir par toi n'est pas souffrir.
Après cette séparation et durant le tournage du film D'amour et d'eau fraîche, l'actrice Miou-Miou devient la compagne de Julien Clerc, avec laquelle il vit jusqu'en 1981. Miou-Miou quitte dès lors son compagnon Patrick Dewaere dont elle a eu une fille, Angèle, dite Angèle Herry-Leclerc (1974), laquelle sera adoptée officiellement par le chanteur, après le suicide de l'acteur1.
En 1978, naît sa fille, Jeanne, qui interprète plusieurs rôles, au théâtre, à la télévision et au cinéma, connue sous le nom de Jeanne Herry.
En 1978, il fête aussi ses trente ans, et son ami Maxime Le Forestier lui écrit à cette occasion une de ses plus belles chansons, J'ai eu trente ans. Ce titre paraîtra à l'automne 1978 sur l'album Jaloux, son premier gros succès en matière de ventes (400 000 exemplaires) grâce au titre de Jean-Loup Dabadie Ma préférence.
En 1980, Julien Clerc se sépare d'Étienne Roda-Gil ainsi que de son arrangeur Jean-Claude Petit. Au cours des années 80, il a participé aux campagnes publicitaires de la firme Citroën.
En 1982 sort son 12e album, dont Femmes je vous aime. Il quitte sa maison de disques Pathé Marconi pour intégrer la firme anglaise Virgin, qui, à l'époque, n'est encore qu'un petit label.
En 1984, il épouse Virginie Coupérie descendante directe de Gustave Eiffel qui lui donnera deux enfants: Vanille en 1985 et Barnabé en 1997.
L'album "Utile ", sorti en 1992 marque ses retrouvailles avec Roda-Gil.
De 1996 à 2010, il participe aux concerts des Enfoirés.
En 1997, il fête ses cinquante ans sur scène avec Marc Lavoine, Alain Souchon, Françoise Hardy, Maurane et Pascal Obispo. Il en sera tiré un disque intitulé Le 4 octobre, qui correspond à la date de son anniversaire.
En 2002, à la suite d'un reportage en Afrique, il cède les droits de son titre Partir au profit de l'UNHCR, dont il est nommé ambassadeur de bonne volonté en 2003.
Son album Double enfance sort fin 2005 et rencontre le succès, dans une période où le marché du disque s'effondre. Il comporte, entre autres, deux chansons d'Étienne Roda-Gil, disparu quelques mois plus tôt.