Fils unique de la danseuse et comédienne Jackie Sardou et du chanteur et comédien Fernand Sardou, Michel Sardou a épousé en 1965 Françoise Pettré alors qu'il n'était âgé que de 18 ans. Alors que l'année précédente, il avait failli partir à l'étranger ouvrir une boite de striptease avant d'être retenu par son père, le chanteur a finalement décidé de rester en France pour épouser cette danseuse professionnelle qui travaillait à l'époque au Châtelet et à l'Opéra de Paris.
Grâce à ce mariage, l'interprète du titre Les lacs du Connemara obtient également une chose dont il rêvait depuis de nombreuses années, son émancipation de l'autorité parentale (la majorité étant à l'époque établie à 21 ans). Côté carrière, il décroche également la même année son premier contrat avec la maison de disques Barclay Records alors qu'il travaillait jusque-là en tant que serveur-artiste et chanteur dans le cabaret de ses parents baptisé Chez Fernand Sardou dans le 18e arrondissement de Paris.
"Elle m'a fait bouffer, sans elle, je n'aurais jamais pu écrire des chansons et travailler", expliquait le chanteur, très admiratif de son ex-épouse. Avec elle, Michel Sardou devient père de deux filles : Sandrine, née le 15 janvier 1970 et la seconde, Cynthia, née le 4 décembre 1973.
En 1977, le couple divorce. "Après Françoise, j'ai eu un creux, c'est vrai, mais pas un creux triste...", a-t-il écrit dans son autobiographie Je ne suis pas mort... je dors ! parue en mai 2021. La même année, il épouse Elisabeth Haas dite "Babette" (soeur de la célèbre astrologue Christine Haas). Avec elle, il devient père de ses fils Romain, né le 6 janvier 1974 (un mois après la naissance de sa demi-soeur Cynthia, fruit de son amour avec Françoise Pettré) et Davy, né le 1er juin 1978. Il semble donc que Michel Sardou flirtait déjà avec Elisabeth Haas lorsqu'il était marié avec sa première femme Françoise Pettré. Ils divorcent en 1998. Depuis, Michel Sardou est marié à la journaliste Anne-Marie Périer qu'il a épousée en 1999.
Michel Sardou est aujourd'hui cinq fois grand-père : ses petits-enfants se nomment Loïs (fille de Sandrine), Aliénor, Gabriel, Victor-Scott (enfants de Romain) et Lucie (fille de Davy).