İstanbul’da adını verdiği Küçük Ayasofya semtinde bulunmaktadır.Aslen kilise olarak inşa edilmiş Padişah II.Beyazıt döneminde, 1497 tarihinde Harem Ağası Hüseyin Ağa tarafından camiye çevrilmiştir.
527-536 yılları arasında Bizans İmparatoru I. Justinianus ve karısı Theodora tarafından yaptırılmıştır.Asıl adı Aya Sergios ve Bachos Kilisesi dir.Osmanlı döneminde yapısı Ayasofya Camiine benzediği gerekçesi ile Küçük Ayasofya adı ile anılmış ve günümüze bu isim ile gelmiştir.
Avlusunda bulunan 24 odalı geniş bahçesi, başta hat ve tezhip sanatları olmak üzere çeşitli el sanatları hizmetine ayrılmıştır.