Het CMA is een koor met een rijke traditie. In 1935 richtte Toon Vranken het koor op om het rijke Nederlandse repertoire uit de 15e en 16e eeuw (globaal van Dufay tot Sweelinck) uit te voeren. Het koor, dat in die tijd uniek was door repertoirekeuze en samenstelling, ontwikkelde zich snel tot een bijna professioneel niveau. Na de Tweede Wereldoorlog werd het Collegium Musicum mét het Nederlands Kamerkoor en het NCRV Vocaal Ensemble beschouwd als de top van de Nederlandse koorzang.

De repertoirekeuze bleef niet tot de Renaissance beperkt. Ook de nieuwe muziek van Hendrik Andriessen en zijn leerlingen, Albert de Klerk, Jan Mul en Herman Strategier werd zowel in binnen- als buitenland met succes aan het publiek gepresenteerd.

Na het overlijden van Toon Vranken werd het Collegium Musicum geleid door Kees de Wijs. De bloei van het koor zette zich onder zijn leiding voort. Het repertoire werd verbreed tot de Klassieke en Romantische periode. Herhaaldelijk werden concerten uitgevoerd met orkest. Onder leiding van zijn derde dirigent Anthony Zielhorst is het koor zich weer gaan concentreren op de oorspronkelijke uitgangspunten: de polyfonie uit de 15e en 16e eeuw.

Collegium Musicum Amsterdam is een activiteit van Stichting Collegium Musicum Amstelodamense.