Vermaelen begon zijn loopbaan bij Germinal Ekeren. Later fuseerde deze club zich met Beerschot VAC en werd de naam gewijzigd in Germinal Beerschot Antwerpen (GBA). GBA werkte samen met Ajax en in 2004 vertrok Vermaelen naar Amsterdam.

Vermaelen debuteerde voor Ajax op 15 februari 2004 in het thuisduel met FC Volendam (2-0) nadat landgenoot Jelle van Damme zich versliep en deze niet reageerde op telefoontjes van trainer Ronald Koeman om hem te wekken. Één seizoen later werd de Belg voor één seizoen verhuurd aan RKC Waalwijk.

Op 1 maart 2006 speelde Vermaelen zijn eerste interland voor Belgie, tegen Luxemburg. Concurrenten op zijn positie zijn onder anderen Ajacied Jan Vertonghen en Nicolas Lombaerts.

Vermaelen raakte onlangs geblesseerd in het door Ajax verloren KNVB Bekerduel met FC Volendam (1-0). Over de ernst van de blessure is nog niets bekend.

Vermaelen won met Ajax de Eredivisie in 2004. Daarnaast pronken er twee KNVB Bekers in de prijzenkast van de Belg. De Johan Cruijff Schaal veroverde Ajax met Vermaelen in de seizoenen 2005, 2006, 2007. Hopelijk kan de Belgische centrale verdediger dit seizoen ook weer een prijs aan zijn prijzenkast toevoegen.