La chanson trace le portrait collectif des militants anarchistes, leurs idéaux, leurs divisions internes, leur marginalité assumée face à une société qui les ignore ou les méprise, dans un ton qui mêle l'affection profonde et une forme de tendresse désabusée devant l'échec relatif du mouvement à transformer le monde. Ferré s'y inclut lui-même sans distance, parlant en « nous » plutôt qu'en observateur extérieur, ce qui donne au texte une sincérité rare pour une chanson à portée aussi directement politique.
La chanson devient un hymne officieux du mouvement libertaire français, chantée chaque année par Ferré lors de ses concerts à la Mutualité, et reste l'une des expressions les plus directes et les plus sincères de son engagement politique constant.
Les Anarchistes demeure un témoignage rare d'un artiste chantant sa propre communauté politique de l'intérieur, ni tract ni caricature, mais un portrait humain et nuancé qui continue de résonner dans les milieux libertaires bien après sa création.