Il avait 28 ans lorsque son frère Pierre Goldman a été assassiné en pleine rue, par deux hommes armés. Jean-Jacques Goldman n'a jamais vraiment évoqué la mort de son demi-frère, un intellectuel et militant d'extrême gauche, condamné pour des vols à main armée et accusé d'un double meurtre...
Le chanteur et son aîné partageaient le même père : Alter Mojszet Goldman (1909-1988), né à Lublin (Pologne), venu en France à l'âge de quinze ans avant d'être naturalisé en 1930. C'est lorsqu'il est engagé dans la Résistance qu'Alter rencontre Janine Sochaczewska, une Polonaise communiste. Le couple donne naissance à son fils Pierre Goldman en 1944, mais se sépare à la Libération. Tandis que sa mère regagne la Pologne, Pierre Goldman grandit en France avec son père, devenu gérant d'un magasin de sports, et sa nouvelle épouse Ruth Ambrunn. La famille s'agrandit alors avec l'arrivée de sa demi-soeur Evelyne, puis celles de Jean-Jacques et Robert.
Exclu à plusieurs reprises durant sa scolarité, Pierre Goldman rejoint les Jeunesses communistes dès ses 15 ans. Puis, étudiant à la Sorbonne à la fin des années 1960, il milite pour l'extrême-gauche avec un certain goût pour la bagarre et les armes. Après un voyage en Amérique latine, durant lequel il a notamment rejoint le Vénézuéla et la guérilla, il rentre en France et commet plusieurs vols à main armée.
En 1970, Pierre Goldman est accusé du meurtre d'une pharmacienne et d'une préparatrice après un braquage qui a mal tourné à Paris. Il clame son innocence mais il est condamné à la prison à perpétuité. Il est finalement acquitté en 1976 après un second procès ultra-médiatisé en Cour de cassation, durant lequel il a été soutenu par de nombreuses personnalités telles que Simone Signoret, Simone de Beauvoir, François Mittérand ou encore Maxime Le Forestier, qui lui écrit la chanson La vie d'un homme. Malgré tout condamné pour trois braquages, qu'il a avoués, Pierre Goldman a passé six ans en prison (au lieu des douze ans de sa condamnation).
Enfermé, il se lance dans la rédaction de son autobiographie Souvenirs obscurs d'un juif polonais né en France, qui rencontre un grand succès. C'est également derrière les barreaux qu'il épouse la jeune Guadeloupéenne Christiane Succab-Goldman. A sa sortie, il se consacre à sa passion pour la musique latino-américaine et écrit pour le journal Libération et la revue des Temps modernes de Jean-Paul Sartre.
Tout bascule le 20 septembre 1979 : alors qu'il se rend à un rendez-vous avec son ami Pierre Bénichou, Pierre Goldman est assassiné en pleine rue, dans le 13e arrondissement de Paris, par deux hommes armés. Selon des témoins du drame, ils étaient trois malfaiteurs puisqu'il y avait un conducteur. Le meurtre a été revendiqué peu après auprès de l'AFP par un appel : "Aujourd'hui 20 septembre 1979 à 12h30, Pierre Goldman a payé ses crimes. La justice du pouvoir ayant montré une nouvelle fois ses faiblesses et son laxisme, nous avons fait ce que notre devoir nous commandait. Nous revendiquons cet acte au nom du groupe Honneur de la police." Pour autant, les responsables du meurtre n'ont jamais été retrouvés.
Pierre, c'est un mystère
Lors des obsèques de Pierre Goldman au cimetière du Père-Lachaise, près de 15000 de personnes, dont plusieurs personnalités, sont réunies. De son côté, la veuve de Pierre Goldman a accouché d'un garçon baptisé Manuel quelques jours seulement après sa mort.
Depuis son apparition à l'enterrement, Jean-Jacques Goldman n'est quasiment jamais revenu sur cette affaire. A peine a-t-il évoqué Pierre Goldman auprès de France 3, dans des images d'archives ressorties en 2018 dans le documentaire Goldman, Balavoine, Berger. "C'est probablement quelqu'un qui a compté, comme tous les gens qui te sont proches ou qui sont de ta famille, parce que tu essayes de les comprendre, tu vis leurs paradoxes, leurs mystères, avait-il confié. Et Pierre, c'est un mystère. J'étais un peu atypique aussi dans la famille, dans le sens où j'étais politiquement musicien." Certains fans croient entendre un hommage à ce frère disparu dans la chanson Puisque tu pars.