Vermaelen speelde in de jeugdopleiding van Ajax en ondertekende in 2003 zijn eerste profcontract. Hij debuteerde op 15 februari 2004 in de uitwedstrijd tegen FC Volendam (0-2). Vermaelen speelde in totaal 143 wedstrijden voor Ajax, waarin hij tien keer scoorde. Met Ajax won hij in 2004 de landstitel, in 2005 de Johan Cruijff Schaal en in 2006 en 2007 zowel de KNVB Beker als de Johan Cruijff Schaal.