1999 yılında profesyonel kariyerine altyapısından yetiştiği Gaziosmanpaşa’da başlayan Mustafa Sarp, buradaki 3 yılın ardından Mersin İdman Yurdu’na transfer oldu. Sonraki dönemde sırasıyla Ankaraspor, Kayseri Erciyesspor ve Bursaspor formaları giyen oyuncu, 2009 yazında Galatasaray’a imza attı.
2 sezon da sarı kırmızılı forma altında Süper Lig’de boy gösteren Mustafa Sarp; kariyerinin kalan kısmında Samsunspor, Karabükspor, Mersin İdman Yurdu, Elazığspor, İstanbul BBSK ve Manisaspor’da oynadıktan sonra futbolu bıraktı.
Futbolu bıraktıktan sonra da sporun içinde kalmaya devam eden 40 yaşındaki deneyimli isim, şu anda Süper Lig ekiplerinden Alanyaspor’da yardımcı antrenör olarak görev yapıyor.
