Menghadap ke Taman Kota, yang berada di sebelah Timurnya. Dengan gerbang besar, pintu kayu kuno, yang berdiri kokoh menghadap matahari terbit. Masjid Agung Sumenep, yang dulu dikenal dengan nama Masjid Jami’, terletak ditengah-tengah Kota Sumenep.Masjid ini dibangun setelah pembangunan Kraton Sumenep, sebagai inisiatif dari Adipati Sumenep, Pangeran Natakusuma I alias Panembahan Somala (1762-1811 M). Adipati yang memiliki nama asli Aria Asirudin Natakusuma ini, sengaja mendirikan masjid yang lebih besar.
Setelah sebelumnya dibangun masjid, yang dikenal dengan nama Masjid Laju, oleh Pangeran Anggadipa (Adipati Sumenep, 1626-1644 M). Dalam perkembangannya, masjid laju tidak mampu lagi menampung jemaah yang kian banyak.Setelah keraton selesai pembangunannya, Pangeran Natakusuma I memerintahkan arsitek yang juga membangun keraton, Lauw Piango, untuk membangun Masjid Jami’. Berdasar catatan di buku Seja
rah Sumenep (2003) diketahui, Lauw Piango adalah cucu dari Lauw Khun Thing yang merupakan satu dari enam orang China yang mula-mula datang dan menetap di Sumenep. Ia diperkirakan pelarian dari Semarang akibat adanya perang yang disebut ‘Huru-hara Tionghwa’ (1740 M).
Masjid Jami’ dimulai pembangunannya tahun 1198 H (1779 M) dan selesai pada tahun 1206 H (1787 M). Terhadap masjid ini Pangeran Natakusuma berwasiat yang ditulis pada tahun 1806 M, bunyinya sebagai berikut;
