La chanson chante l'attachement à un territoire rural rude et montagneux, ses vignes en terrasses, ses paysans qui s'en vont vers les villes, tout en portant un regard lucide et mélancolique sur l'exode rural qui vide peu à peu ces montagnes de leurs habitants. Ferrat y mêle la tendresse sensorielle du souvenir et une conscience sociale aiguë du déclin des campagnes françaises, sans jamais céder à la nostalgie passéiste pure.
La chanson devient immédiatement et durablement le plus grand succès populaire de Ferrat, chantée par des générations d'auditeurs bien au-delà du public habituel de la chanson engagée, et reste associée de façon indissociable à l'Ardèche et à son image publique.
La Montagne demeure l'une des chansons françaises les plus universellement aimées sur l'attachement à la terre natale, sa lucidité sur l'exode rural continuant de résonner dans une France où la question du dépeuplement des campagnes reste d'actualité.