Profesyonel kariyerine 2006 yılında Bundesliga ekibi Borussia Mönchengladbach’ta başlayan Mitroglou, asıl çıkışını 7 sezon formasını terlettiği ülkesinin köklü kulübü Olimpiakos’ta gerçekleştirdi. Buradaki performansıyla Ada’nın yolunu tutan Yunan golcü; İngiltere’de Fulham, Portekiz’de Benfica ve Fransa’da Marsilya’da oynadı.
2019 kış transfer döneminde Galatasaray’a kiralanan oyuncu, 23. haftada oynanan Akhisarspor maçının 90+4’üncü dakikasında attığı golle o sezon kazanılan şampiyonlukta pay sahibi olmuştu. Mitroglou, yarım sezon Süper Lig’de oynadıktan sonra Hollanda ekibi PSV Eindhoven’a kiralandı. Yunan oyuncu 2021’in kış transfer döneminde ise ülkesine geri döndü.
Şu anda Yunanistan Süper Ligi ekiplerinden Aris’in kadrosunda bulunan Kostas Mitroglou, bu sezon kulübüyle yalnızca UEFA Avrupa Konferans Ligi Elemeleri’nde FC Astana ile oynanan maçta 27 dakika forma giyebildi.
