Sebelum Islam masuk ke pulau Jawa, masyarakat di tanah Jawa sudah menganut kepercayaan animisme dan dinamisme. Selain itu, masyarakat Jawa juga sudah dipengaruhi oleh budaya Hindu dan Budha. Seiring waktu berjalan tidak lama kemudian Islam mulai masuk ke Jawa melewati Gujarat dan Persi dan ada yang berpendapat langsung dibawa oleh orang Arab, terutama pedagang dari timur tengah. Islam masuk ke Jawa melalui pesisir utara Pulau Jawa. Bukti sejarah tentang awal mula kedatangan Islam di Jawa antara lain ialah ditemukannya makam Fatimah binti Maimun bin Hibatullah yang wafat tahun 475 H atau 1082 M di Desa Leran, Kecamatan Manyar, Gresik. Dilihat dari namanya, diperkirakan Fatimah adalah keturunan Hibatullah, salah satu dinasti di Persia.
Selain itu, di daerah Gresik juga ditemukan makam Maulana Malik Ibrahim dari Kasyan (satu tempat di Persia) yang meninggal pada tahun 822 H atau 1419 M. Di Mojokerto juga ditemukan ratusan makam Islam kuno. Makam tertua berangka tahun 1374. Diperkirakan makam-makam ini ialah makam keluarga istana Majapahit. Saluran-saluran Islamisasi yang berkembang ada enam yaitu: perdagangan, perkawinan, tasawuf, pendidikan, kesenian, dan politik. Berdasarkan informasi ini, tentu kita dapat mengambil kesimpulan bahwa Islam itu sudah lama masuk ke Pulau Jawa, jauh sebelum bangsa Barat datang di pulau ini. Berikut ini sekelumit kerajaan-kerajaan Islam di Pulau Jawa.
a. Kerajaan Demak
Demak diperkirakan berdiri tahun 1500 setelah keruntuhan Majapahit sekitar tahun 1478. Raja pertama Kerajaan Demak adalah Raden Fatah, yang bergelar Sultan Alam Akbar Al-Fatah. Raden Fatah memerintah Demak dari tahun 1500-1518. Raden Fatah merupakan keturunan raja terakhir dari Kerajaan Majapahit, yaitu Raja Brawijaya V. Kerajaan Demak disebut juga sebagai sebuah kerajaan yang agraris-maritim. Barang dagangan yang diekspor Kerajaan Demak antara lain beras, lilin dan madu. Barang-barang itu diekspor ke Malaka, Maluku dan Samudra Pasai.
Wilayah kekuasaan Kerajaan Demak di bawah Raden Patah, meliputi Jepara, Tuban, Sedayu, Palembang, Jambi dan beberapa daerah di Kalimantan. Kemajuan Demak dipengaruhi jatuhnya Malaka ke tangan Portugis, para pedagang yang anti Portugis di Malaka beralih haluan menuju pelabuhan-pelabuhan Demak seperti Jepara, Tuban, Sedayu, Jaratan dan Gresik.
Demak juga tumbuh menjadi pusat penyebaran agama Islam. Para wali yang merupakan tokoh penting pada perkembangan Kerajaan Demak ini, memanfaatkan posisinya untuk lebih menyebarkan Islam kepada penduduk Jawa. Para wali juga berusaha menyebarkan Islam di luar Pulau Jawa. Penyebaran agama Islam di Maluku dilakukan oleh Sunan Giri sedangkan di daerah Kalimantan Timur dilakukan oleh seorang penghulu dari Kerajaan Demak yang bernama Tunggang Parangan. Setelah Kerajaan Demak lemah maka muncul Kerajaan Pajang.
b. Kerajaan Mataram
Setelah Kerajaan Demak berakhir, berkembanglah Kerajaan Pajang di bawah Sultan Hadiwijaya. Tokoh yang membantunya di antaranya adalah Ki Ageng Pemanahan yang diangkat sebagai bupati di Mataram. Putra Ki Ageng, Raden Bagus (Danang) Sutawijaya diangkat anak oleh Sultan Hadiwijaya dan dibesarkan di istana. Sutawijaya dipersaudarakan dengan putra mahkota, bernama Pangeran Benowo.
Pada tahun 1582, Sultan Hadiwijaya digantikan oleh Pangeran Benowo merupakan raja yang lemah. Sutawijaya yang menggantikan Ki Gede Pemanahan justru semakin menguatkan kekuasaannya sehingga akhirnya Istana Pajang pun jatuh ke tangannya. Sutawijaya segera memindahkan pusaka Kerajaan Pajang ke Mataram. Sutawijaya sebagai raja pertama dengan gelar: Panembahan Senapati Ing Alaga Sayidin Panatagama. Pusat kerajaan ada di Kota Gede, sebelah. Panembahan Senapati digantikan oleh putranya yang bernama Mas Jolang (1601-1613). Mas Jolang kemudian digantikan oleh putranya bernama Mas Rangsang atau lebih dikenal dengan nama Sultan Agung (1613-1645). Pada masa pemerintahan Sultan Agung inilah Mataram mencapai zaman keemasan.
Sultan Agung berhasil memperluas wilayah Mataram seperti, Surabaya (1615), Lasem, Pasuruhan (1617), dan Tuban (1620). Sultan Agung juga ingin mengusir VOC dari Kepulauan Indonesia. Kemudian diadakan dua kali serangan tentara Mataram ke Batavia pada tahun 1628 dan 1629.
Dalam prakteknya, Sultan Agung memadukan unsur-unsur budaya Islam dengan budaya Hindu-Jawa. Seperti perayaan sekaten untuk memperingati hari kelahiran Nabi Muhammad saw, dengan membunyikan gamelan Kyai Nagawilaga dan Kyai Guntur Madu. Kemudian juga diadakan upacara grebeg, yaitu setiap tanggal 10 Dzulliijah (Idul Adha), 1 Syawal (Idul Fitri), dan tanggal 12 Rabiulawal (Maulid Nabi). Upacara grebeg merupakan sedekah sebagai rasa syukur dari raja kepada Tuhan Yang Maha Esa dan juga sebagai pembuktian kesetiaan para bupati dan punggawa kerajaan kepada rajanya.
Sultan Agung wafat pada 1645 dan digantikan oleh putranya yang bergelar Amangkurat I. Amangkurat I adalah seorang raja yang lemah apalagi adanya pengaruh VOC yang semakin kuat. Kerajaan Mataram akhirnya dibagi dua berdasarkan Perjanjian Giyanti (1755). Sebelah barat menjadi Kesultanan Yogyakarta dan sebelah timur menjadi Kasunanan Surakarta.
c. Kesultanan Banten
Kerajaan Banten berawal sekitar tahun 1526, ketika Kerajaan Demak memperluas pengaruhnya ke kawasan pesisir barat Pulau Jawa. Maulana Hasanuddin atau Fatahillah, putera Sunan Gunung Jati berperan dalam penaklukan tersebut Maulana Hasanuddin mendirikan benteng pertahanan yang dinamakan Surosowan, yang kemudian hari menjadi pusat pemerintahan, yakni Kesultanan Banten.
Kedatangan pasukan kerajaan di bawah pimpinan Maulana Hasanuddin ke kawasan tersebut selain untuk perluasan wilayah juga sekaligus penyebaran dakwah Islam. Atas perintah Sultan Trenggono, Fatahillah melakukan penyerangan dan penaklukkan Pelabuhan Sunda Kelapa sekitar tahun 1527 dan melanjutkan perluasan kekuasaan ke daerah penghasil lada di Lampung. Ia berperan dalam penyebaran Islam di kawasan tersebut, selain itu ia juga telah melakukan kontak dagang dengan raja Malangkabu (Minangkabau, Kerajaan Indrapura).
Setelah meninggalnya Sultan Trenggono, Banten melepaskan dari Demak pada 1570. Setelah Fatahillah wafat Ia digantikan Pangeran Yusuf. Tahun 1579, daerah-daerah yang masih setia pada Pajajaran ditaklukkan. Tahun 1580, Pangeran Yusuf meninggal dan digantikan oleh putranya, yang bernama Maulana Muhammad. Pada 1596, Maulana Muhammad melancarkan serangan ke Palembang. Kerajaan Palembang dapat dikepung dan hampir saja dapat ditaklukkan. Akan tetapi, Sultan Maulana Muhammad tiba-tiba terkena tembakan musuh dan meninggal sehingga ia dikenal dengan sebutan Prabu Seda ing Palembang.
Gugurnya Maulana Muhammad menimbulkan berbagai perselisihan di istana. Pemerintahan dipegang oleh sang Mangkubumi. Mangkubumi berhasil disingkirkan oleh Pangeran Manggala. Pangeran Manggala berhasil mengendalikan kekuasaan di Banten. Baru setelah Abumufakir dewasa dan Pangeran Manggala meninggal tahun 1624, maka Banten secara penuh diperintah oleh Sultan Abumufakir Mahmud Abdul Kadir.
Pada tahun 1596 orang-orang Belanda datang di pelabuhan Banten, orang-orang Belanda bersikap angkuh dan sombong, bahkan mulai menimbulkan kekacauan di Banten. Orang-orang Banten menolak dan mengusir orang-orang Belanda Dua tahun kemudian, orang-orang Belanda datang lagi. Mereka menunjukkan sikap yang baik, sehingga dapat berdagang di Banten dan di Jayakarta. Menginjak abad ke-17
Setelah Sultan Abumufakir meninggal, ia digantikan putranya bernama Abumaali Achmad. Setelah Abumaali Achmad, tampillah sultan yang terkenal, yakni Sultan Abdulfattah atau yang lebih dikenal dengan nama Sultan Ageng Tirtayasa. Ia memerintah pada tahun 1651 - 1682. Pada masa pemerintahan Sultan Ageng Tirtayasa, Banten terus mengalami kemajuan. Dalam bidang kebudayaan, seni bangunan mengalami perkembangan. Beberapa jenis bangunan yang masih tersisa, antara lain, Masjid Agung Banten, bangunan keraton dan gapura-gapura.
Pada masa akhir pemerintahan Sultan Ageng Tirtayasa timbul konflik di dalam istana. Sultan Ageng Tirtayasa yang berusaha menentang VOC, kurang disetujui oleh Sultan Haji sebagai raja muda. Keretakan di dalam istana ini dimanfaatkan VOC dengan politik devide et impera. VOC membantu Sultan Haji untuk mengakhiri kekuasaan Sultan Ageng Tirtayasa. Berakhirnya kekuasaan Sultan Ageng Tirtayasa membuat semakin kuatnya kekuasaan VOC di Banten. Raja-raja yang berkuasa berikutnya, bukanlah raja-raja yang kuat. Hal ini membawa kemunduran Kerajaan Banten.
d. Kesultanan Cirebon
Menurut berita Tome Pires sekitar 1513 diberitakan Cirebon sudah termasuk ke daerah Jawa di bawah kekuasaan Kerajaan Demak. Penguasa di Cirebon ialah Lebe Usa sebagai bawahan Pate Rodim. Cirebon terutama mengekspor beras dan banyak bahan makanan lainnya. Perkiraan kehadiran Islam di kota Cirebon menurut sumber lokal Tjarita Purwaka Tjaruban Nagari karya Pangeran Arya Cerbon pada 1720 M, dikatakan bahwa Syarif Hidayatullah datang ke Cirebon pada 1470 M, dan mengajarkan Islam di Gunung Sembung, bersama-sama Haji Abdullah Iman atau Pangeran Cakrabumi. Syarif Hidayatullah kawin dengan Pakungwati dan pada 1479 ia menggantikan mertuanya sebagai Penguasa Cirebon, lalu mendirikan keraton yang diberi nama Pakungwati di sebelah timur Keraton Sultan Kasepuhan kini.
Syarif Hidayatullah terkenal juga dengan gelaran Susuhunan Jati atau Sunan Gunung Jati, seorang dari walisongo dan juga ia mendapat julukan Pandita-Ratu sejak berfungsi sebagai wali penyebar Islam di Tatar Sunda dan sebagai kepala pemerintahan. Pangeran Cakrabumi alias Haji Abdullah Iman dan juga Syaikh Datuk Kahfi yang telah mempelopori pendirian pesantren sebagai tempat mengajar dan penyebaran agama Islam untuk daerah sekitarnya. Pada masa pemerintahan Sunan Gunung Jati Islam makin diintensifkan dengan pendirian Masjid Agung Cipta Rasa di sisi barat alun-alun Keraton Pakungwati.
Sunan Gunung Jati wafat pada 1568, ia dimakamkan di Bukit Sembung atau yang dikenal dengan makam Gunung Jati. Penggantinya di Cirebon ialah buyutnya yang kelak dikenal sebagai Panembahan Ratu putra Pangeran Suwarga yang telah meninggal dunia pada 1565. Keberadaan Kesultanan Cirebon menjelang akhir abad ke-17 diwarnai dengan perjanjian-perjanjian VOC antara lain perjanjian pada tanggal 7 Januari 1681. Lewat perjanjian tersebut Kesultanan Cirebon mulai dicampuri politik kolonial VOC. Sejak 1697, kekuasaan Keraton Kasepuhan dan Kanoman terbagi lagi atas Kacirebonan dan Kaprabonan.
Meskipun pendapat beberapa ahli agak berbeda namun dapat dikatakan Kesultanan Cirebon merupakan pusat syiar keagamaan dengan penyebarannya berlangsung sebelum 168I. Tasawuf dan tarekat-tarekat keagamaan Islam seperti Kubrawiyah, Qadariyah, Syattariyah, dan kemudian Tijaniyah berkembang di Cirebon. Cirebon sebagai pusat keagamaan banyak menghasilkan naskah-naskah kuno seperti Babad Cerbon, Tarita Puwaka Tjaruban Nagari, Pepakem Cerbon, dan lainnya.