Abu Bakar Ash-Shiddiq adalah orang yang pertama kali beriman, ia masih tenggelam dalam kekafiran. Ia sosok yang keras kepala dan kokoh dan membela berhala-berhala Jahiliyah.

Pada Perang Badar, ia tampil dalam barisan penyerang di pihak kaum musyrik. Di Perang Uhud, ia mengepalai pasukan panah yang dipersiapkan Quraiys untuk menghadapi kaum Muslimin.

Sebelum kedua pasukan itu bertempur, terlebih dahulu seperti biasa diadakan duel.  Abdurrahman maju ke depan dan meminta lawan dari pihak Muslim. Maka bangkitlah ayahnya, Abu Bakar Ash-Shiddiq, siap melayani tantangan anaknya. Namun Rasulullah SAW menahan sahabatnya itu dan menghalanginya melakukan perang tanding melawan putranya sendiri.

Walau bagaimanapun hormatnya Abdurrahman kepada ayahnya, dan begitu percayanya ia akan kebesaran jiwa dan keluruhan budi sang ayah, ia tak terpengaruh oleh keislaman Abu Bakar. Ia kokoh membela berhala-berhala Quraiys. Orang-orang seperti ini, tidak buta akan kebenaran, walaupun untuk mencapai hal itu diperlukan waktu yang lama.

Demikianlah, ketika Abdurrahman memeluk Islam dan kembali ke pangkuan agama yang haq, maka bercahayalah wajah Abu Bakar melihat putranya itu ketika menyatakan baiat kepada Rasulullah. Di waktu kafirnya, ia adalah seorang yang jantan, maka sekarang di waktu Islamnya pun, ia tetap jantan.

Sejak saat itu,  Abdurrahman berusaha sekuat tenaga untuk menyusul ketinggalan-ketinggalannya selama ini, baik di jalan Allah maupun di jalan Rasulullah dan orang-orang Mukmin.

Pada masa Rasulullah dan para khalifah sesudah beliau, Abdurrahman tak ketinggalan dalam mengambil bagian dalam peperangan, dan tak pernah berpangku tangan dalam jihad.

Dalam Perang Yamamah yang terkenal itu, jasanya amat besar. Keteguhan dan keberaniannya memiliki peran besar dalam merebut kemenangan dari tentara Musailamah Al-Kadzab dan orang-orang yang murtad. Bahkan dialah yang menghabisi riwayat Mahkam bin Thufail, yang menjadi perencana bagi Musailamah. Dengan segala daya dan upaya ia berhasil mengepung benteng pertahanan mereka yang strategis.

Di bawah naungan Islam, sifat-sifat utama Abdurrahman bertambah tajam dan lebih menonjol. Kecintaan dan keyakinannya serta kemauan yang teguh untuk mengikuti apa yang dianggapnya haq dan benar, merupakan sari hidup dan permata kepribadiannya.

Ia tiada terpengaruh sedikit pun oleh suatu pancingan atau tekanan. Bahkan pada saat yang amat gawat, ketika Muawiyah memutuskan hendak memberikan baiat khalifah kepada Yazid dengan menggunakan ketajaman senjata.

Muawiyah mengirim surat kepada Marwan, gubernurnya di Madinah, dan menyuruh untuk membacakannya kepada kaum Muslimin di masjid. Marwan melaksanakan perintah itu, namun belum selesai ia membaca, Abdurrahman bin Abu Bakar bangkit dan berkata, "Demi Allah, rupanya bukan kebebasan memilih yang anda berikan kepada umat Nabi Muhammad SAW, tetapi anda hendak menjadikannya kerajaan seperti Romawi sehingga bila seorang kaisar meninggal, tampillah kaisar lain sebagai penggantinya."

Saat itu Abdurrahman melihat bahaya besar yang sedang mengancam umat Islam, seandaianya Muawiyah melanjutkan rencananya itu. Belum lagi selesai Abdurrahman melontarkan kecaman keras ini kepada Marwan, ia telah disokong oleh segolongan Muslimin yang dipimpin oleh Husein bin Ali, Abdullah bin Zubair, dan Abdullah bin Umar.

Di belakang hari muncul beberapa keadaan mendesak yang memaksa Husein, Ibnu Zubair dan Ibnu Umar berdiam diri terhadap rencana baiat yang hendak dilaksanakan Muawiyah dengan kekuatan senjata ini.

Namun Abdurrahman tidak putus asa menyatakan batalnya baiat tersebut secara terus terang. Tatkala diketahuinya setelah itu bahwa Muawiyah sedang bersiap-siap akan melakukan kunjungan ke Madinah, Abdurrahman segera meninggalkan kota itu menuju Makkah.

Rupanya iradah Allah akan menghindarkan dirinya dari bencana dan akibat pendiriannya ini. Karena baru saja ia sampai kota Makkah dan tinggal sebentar di sana, ia wafat.

Orang-orang mengusung jenazahnya di bahu-bahu mereka dan membawanya ke sebuah dataran tinggi kota Makkah lalu menguburkannya di sana; di bawah tanah yang telah menyaksikan masa Jahiliyahnya, dan juga telah menyaksikan masa keislamannya.