Eski kaynaklarda adı Sarı Kadı şeklinde yazılan ve eski harflerimizdeki (dad) harfinin Türklerce (zı) gibi de okunmasından bu köyün adı daha sonraları (Sarı Gazi) gibi söylenir ve yazılır olmuştur. Hadika sahibi bu mabedi (Sarı Kadı Köyü Mescidi) şeklinde almıştır. Türklerin bu adı (Kadı Köy) ile karıştırılmaması için böyle yapmış olmaları ihtimali de yabana atılamaz. Sarı Gazi; varoluşu tarihi İstanbul Fethi'ne kadar çıkarılan çok eski bir köydür. Sarı Gazi Üsküdar'ın büyük ve tarihi köylerinin başında gelir. Sarı Gazi Köyü Camii Sarı Kadızâde Şeyh Mustafa Efendi'nin Türbesinin yol aşırı karşısında idi. Son yarım asır içinde tarihi âbidelerimiz korkunç bir ihmale uğradığı için bu cami yanındaki şadırvanı ve su depolu çeşmesi ile beraber yıkılmıştır. Şimdi, camiin arsası kalmıştır. Üsküdar'da Mimar Sinan yapısı büyük Valide Sultan Külliyesi'ni yaptıran Sultan III. Murad'ın anası Nur Bânû Sultan yaptırmıştı. Minberini daha sonra Sultan III. Mustafa'nın yazı hocası Bosnalı Osman Efendi Vakfına mütevelli olduğu sırada koydurmuştur. Bu Osman Efendi 1181 H. 1767 M. yılında ölmüş, Üsküdar'da Sultan Mustafa'nın Ayazma Camii'nin önüne gömülmüştür.
Sarı Gazi Köyü'nün hayır sevenleri şimdi Sarı Kadızâde Türbesinin doğu tarafını betondan tek kubbeli bir cami yaptırmışlardır. Buralarda ve türbenin önünde yerlere serilmiş som mermerden mîmarî döküntüler vardır. Burada Nur Bânû Sultan'ın şadırvanı ve çeşmesi de bulunuyordu.