Abdullah bin Jahsyi adalah putra bibi Rasulullah, Umaimah binti Abdul Muthalib. Di samping itu, ia juga ipar Rasulullah karena saudara perempuannya, Zainab binti Jahsyi adalah istri Nabi SAW.
Abdullah bin Jahsyi memeluk Islam sebelum Rasulullah menjadikan rumah Al-Arqam sebagai pusat dakwah. Karena itu, ia termasuk di antara sahabat yang pertama masuk Islam, Assabiqunal Awwalun.