La chanson ouvre l'album : elle dure 3 min 16 et donne le ton d'un disque plus rock que les précédents, enregistré à Paris, où l'on entend aussi des chansons en anglais comme « It Is Not Because You Are », parodie de chanson anglophone. L'expression « marche à l'ombre » appartient à l'argot et évoque la prison, ce qui s'accorde avec la dédicace de l'album à Jacques Mesrine, que Renaud revendique comme une provocation. Elle prolonge l'image du chanteur contestataire que Renaud voulait renforcer après Ma gonzesse.
L'album Marche à l'ombre se vend à environ 800 000 exemplaires et marque un premier grand tournant dans la carrière de Renaud. Très populaire, il est aussi critiqué par les puristes et par une partie des fans de la première heure. La chanson-titre a été reprise sur l'album-hommage La Bande à Renaud, et elle figure au générique du film Marche à l'ombre (1984) de Michel Blanc, avec Gérard Lanvin. Parmi les titres cités comme phares de l'album, on trouve aussi « Dans mon H.L.M. », « Les Aventures de Gérard Lambert » et « It Is Not Because You Are ».
« Marche à l'ombre » ouvre un album qui marque un tournant dans la carrière de Renaud : c'est là que naît le personnage de Gérard Lambert et que l'écriture se durcit en rock, au risque de déplaire à une partie de son public d'origine. Elle reste un repère pour tout lecteur de la discographie.