Tanda jika Indonesia belum mengenal Islam belum juga ditemukan hingga abad ke4 H (10 M). Yang kami maksud dengan tanda adalah seperti masjid, makam, ataupun lainnya. Artinya dengan hal ini pada abad 1-4 H merupakan fase pertama proses kedatangan Islam di Indonesia umumnya dan Sumatera khususnya, dengan kehadiran para pedagang muslim yang singgah di berbagai pelabuhan di Sumatera.
Dari literature Arab, dapat diketahui bahwa kapal-kapal dagang Arab sudah mulai berlayar ke wilayah Asia Tenggara sejak permulaan abad ke–7 M. Sehingga, kita dapat berasumsi, mungkin dalam kurun waktu abad 1-4 H terdapat hubungan pernikahan anatara para pedagang atau masyarakat muslim asing dengan penduduk setempat sehingga menjadikan mereka masuk Islam baik sebagai istri ataupun keluarganya.
Sedangkan bukti-bukti tertulis adanya masyarakat Islam di Indonesia khususnya Sumatera, baru ditemukan setelah abad ke-10 M. Yaitu dengan ditemukannya makam seorang wanita bernama Tuhar Amisuri di Barus, dan makam Malik as Shaleh yang ditemukan di Meunahasah Beringin kabupaten Aceh Utara pada abad ke–13. M.
Keadaan Masyarakat Sumatrea Sebelum Adanya Islam
Sumatera Utara memiliki letak geografis yang strategis. Hal ini membuat Sumatera Utara menjadi pelabuhan yang ramai, menjadi tempat persinggahan saudagar-saudagar muslim Arab dan menjadi salah satu pusat perniagaan pada masa dahulu. Sebelum masuk agama Islam ke Sumatera Utara, masyarakat setempat telah menganut agama Hindu. Hal ini dibuktikan dengan kabar yang menyebutkan bahwasanya Sultan Malik As-Shaleh, Sultan Samudera Pasai pertama, menganut agama Hindu sebelum akhirnya diIslamkan oleh Syekh Ismael.
Begitu juga dengan Sumatera Utara, Sumatera Selatan juga memiliki letak geografis yang strategis. Sehingga pelabuhan di Sumatera Selatan merupakan pelabuhan yang ramai dan menjadi salah satu pusat perniagaan pada masa dahulu. Oleh karena itu, otomatis banyak saudagar-saudagar muslim yang singgah ke pelabuhan ini.
Sebelum masuknya Islam, Sumatera Selatan telah berdiri kerajaan Sriwijaya yang bercorak Buddha. Kerajaan ini memiliki kekuatan maritim yang luar biasa. Karena kerajaannya bercorak Buddha, maka secara tidak langsung sebagian besar masyarakatnya menganut Agama Buddha.
Letak yang strategis menyebabkan interaksi dengan budaya asing, yang mau tidak mau harus dihadapi. Hal ini membuat secara tidak langsung banyak budaya asing yang masuk ke Sriwijaya dan mempengaruhi kehidupan penduduknya dan sistem pemerintahannya. Termasuk masuknya Islam.
Bangsa Indonesia yang sejak zaman nenek moyang terkenal akan sikap tidak menutup diri, dan sangat menghormati perbedaan keyakinan beragama, menimbulkan kemungkinan besar ajaran agama yang berbeda dapat hidup secara damai. Hal-hal ini yang membuat Islam dapat masuk dan menyebar dengan damai di Sumatera selatan khususnya dan Pulau Sumatera umumnya.
Masuk dan Berkembangnya Islam di Sumatera Utara
Sumatera Utara merupakan salah satu pusat perniagaan yang terpenting di Nusantara pada abad ke- 7 M. Sehingga Sumatera Utara menjadi salah satu tempat berkumpul dan singgahnya para saudagar-saudagar Arab Islam. Dengan demikian dakwah Islamiyah berpeluang untuk bergerak dan berkembang dengan cepat di kawasan ini.
Hal ini berdasarkan catatan tua Cina yang menyebutkan adanya sebuah kerajaan di utara Sumatera namanya Ta Shi telah membuat hubungan diplomatic dengan kerajaan Cina. Ta Shi menurut istilah Cina adalah istilah yang diberikan kepada orang-orang Islam. Dan letaknya kerajaan Ta Shi itu lima hari berlayar dari Chop’o (bagian yang lebih lebar dari malaka) di seberang selat Malaka. Ini menunjukkan Ta Shi dalam catatan tua Cina itu ialah Ta Shi Sumatera Utara, bukan Ta Shi Arab. Karena, Ta Shi Arab tidak mungkin di capai dalam waktu lima hari.
Islam semakin berkembang di Sumatera Utara setelah semakin ramai pedagang – pedagang muslim yang datang ke Nusantara, karena Laut Merah telah menjadi Laut Islam sejak armada rome dihancurkan oleh armada muslim di Laut Iskandariyah.
Disamping itu , terdapat satu factor besar yang menyebabkan para pedagang Islam Arab memilih Sumatera Utara pada akhir abad ke- 7 M. Yaitu karena terhalangnya pelayaran mereka melalui Selat Malaka karena disekat oleh tentara laut/Sriwijaya kerajaan Budha sebagai pembalasan atas serangan tentara Islam atas kerajaan Hindu di Sind. Maka terpaksalah mereka melalui Sumatera utara dengan pesisir barat Sumatera kemudian masuk selat Sunda melalui Singapura menuju Kantun, Cina
