Abu Ubaidah dikenal sebagai sosok yang lemah lembut namun sangat cekatan seperti singa. Memiliki sifat amanah dan bertanggung jawab. Ia merupakan golongan assabiqunal awwalun yang bersyahadat satu hari setelah Abu Bakar.

Dalam Perang Badar, Abu Ubaidah menyusup ke pasukan musuh tanpa rasa takut. Dia tidak pernah absen mengikuti pertempuran untuk membela Islam. Setia dalam membela Nabi Muhammad dalam situasi apapun.

Abu Ubaidah bin Jarrah pernah ikut hijrah ke Habasyah (Ethiophia) bersama Rasulullah, untuk mengajak masyarakat Habasyah masuk ke dalam Islam. Setelah Rasulullah wafat, Abu Ubaidah masuk ke dalam kandidat calon Khalifah bersama Abu Bakar dan Umar bin Khattab.

Bahkan ketika Umar menjadi Khalifah sangat ingin Abu Ubaidah yang meneruskan kepemimpinan Islam. Namun nasib berkata lain, Abu Ubaidah meninggal dunia karena terjebak dalam wabah penyakit.