Le conte suit un parcours en saisons. Le caneton naît à la fin de l'été dans une basse-cour, subit les moqueries de la volaille, s'enfuit vers les marais où il rencontre des canards sauvages, trouve refuge chez une vieille femme, une poule et un chat qui ne le comprennent pas, puis traverse un hiver solitaire. Au printemps, il aperçoit des cygnes, s'approche d'eux en s'attendant à être chassé, et voit son reflet dans l'eau. Le récit est court, linéaire, porté par un narrateur discret et ironique, qui décrit les petites sociétés rencontrées par le héros (la basse-cour, les oies sauvages, la maisonnée) comme autant de milieux aveugles à ce qui les dépasse. Aucun personnage secondaire ne le comprend vraiment.
Le conte est devenu l'un des textes les plus connus d'Andersen. Bruno Bettelheim lui a reproché d'inciter l'enfant à se croire d'une espèce différente de son entourage. Le conte a inspiré de nombreuses œuvres : une pièce vocale de Prokofiev (1914), des dessins animés de Disney (1931 et 1939), une chanson de Frank Loesser interprétée par Danny Kaye (1952) et la comédie musicale Honk!.
Le Vilain Petit Canard est devenu une expression courante pour désigner celui que son entourage rejette avant qu'il ne s'épanouisse. Au-delà de la formule, le conte garde sa force parce qu'il prend le point de vue de l'exclu sans en faire un martyr : le caneton ne comprend ce qu'il est qu'en l'ayant vécu. La lecture autobiographique ajoute une profondeur, celle d'un écrivain qui a transformé sa propre humiliation en œuvre, et le texte reste l'une des entrées les plus accessibles dans l'univers d'Andersen.