Dia menjumpai gereja yang di dalamnya sedang ada peribatan. Salman menganggapnya unik karena berbeda dengan cara ibadah agama Majusi. Timbul niat mencari agama yang membawa kebenaran.
Singkat cerita, pencarian ini membawanya ke banyak negeri hingga ke tanah Arab (Madinah). Di sanalah dia menemukan agama yang dicarinya, yaitu Islam. Masuk Islamnya Salman bukan tanpa pengorbanan. Ia harus memerdekakan dirinya sebagai budak.
Ia pun dapat ditebus atas jasa baik para sahabat Nabi Saw. yang menyumbangkan bibit pohon kurma yang dimilikinya ditambah dengan emas yang diberikan oleh Nabi dari harta rampasan perang.
Selepas itulah ia menjadi orang merdeka dan bisa ikut berperang bersama penduduk Madinah. Dan perang pertama kali yang ia ikuti adalah perang Khandaq atau perang Ahzab. Pada perang ini pula, kecemerlangan idenya mampu menyelamatkan Kota Madinah.
Hampir semua perang yang terjadi setelah perang Khandaq ia ikuti. Perang Badar dan Uhud, Salman tidak ikut karena masih menjadi budak.
Salman adalah pemuda berperawakan kuat dan bertenaga besar. Sekali ayun pedang dari lengannya yang kuat akan dapat membelah batu dan memecahnya menjadi butiran kerikil. Tapi kekerasan dan kekekarannya sebanding dengan kecerdasannya. Perang Khandaq menjadi bukti pertama dari ide briliannya.
