Berdasarkan informasi dari situs Dunia Masjid, Jakarta Islamic Centre, masjid ini didirikan pada 1421.
Sunan Ampel yang memiliki nama asli Raden Mohammad Ali Rahmatullah pindah ke Surabaya pada usia 20 tahun.
Saat itu, Surabaya masih merupakan daerah kekuasaan Majapahit.
Meskipun masih muda, Sunan Ampel dikenal pandai dalam ilmu agama.
Karena kepandaiannya itu, Raja Majapahit memercayai Sunan Ampel untuk berdakwah dan menyebarkan agama Islam di Surabaya untuk mendidik moral para bangsawan dan kawula Majapahit.
Untuk itu, Raden Rachmat (nama Sunan Ampel) dipinjami oleh raja tanah seluas 12 hektar di daerah Ampel Denta atau Surabaya untuk menyebarkan agama Islam.
Mulai itulah, Raden Rachmat kemudian akrab dipanggil Sunan Ampel karena lokasi dakwahnya berada di Ampel Denta.
Sebagai media dakwahnya, Sunan Ampel membangun masjid yang kini dikenal sebagai Masjid Ampel.
Di tempat inilah, Sunan Ampel menghabiskan hidupnya hingga wafat pada 1481 kemudian dimakamkan di kompleks masjid.
Hingga saat ini, banyak umat Islam yang berziarah ke makam Sunan Ampel di kompleks Masjid Sunan Ampel.
Arsitektur Masjid Sunan Ampel merupakan perpaduan gaya Jawa kuno dan Arab.