چون خبر عثمان و بيعت مهاجر و انصار با اميرالمؤ منين على عليه السلام منتشر شد، اهل كوفه با شنيدن اين خبر بى درنگ به نزد اميرشان كه آن وقت ابو موسى اشعرى (4)بود رفتند و گفتند:چرا با اميرالمؤ منين على عليه السلام بيعت نمى كنى و مردم را به بيعت او تشويق نمى نمايى ، در حالى كه مهاجر و انصار با او بيعت كرده اند.ابو موسى گفت : مى نگرم تا بعد از اين مردم چه كار خواهند كرد، و چه خبر جديدى خواهد رسيد؟ مردم كوفه از گفتارش راضى نشدند.هاشم بن عتبة بن ابى وقاص گفت : اى ابو موسى ! منتظر چه خبر ديگرى هستى ، مردم عثمان بن عفان را كشتند؛ آن گاه مهاجر و انصار، خاص عام با اميرالمؤ منين على عليه السلام بيعت كردند. آيا مى ترسى اگر با على عليه السلام بيعت كنى ، عثمان از آن جهان باز گردد و تو را توبيخ كند؟!اى ابو موسى ! اگر در بيعت با امير المؤ منين على عليه السلام ترديد دارى و بيعت نمى كنى ، امارت كوفه را رها كن تا ديگرى را امير خود قرار دهيم .هاشم اين سخنها را گفت ، سپس يك دست را بر دست ديگر زد و گفت :دست راست من از آن امير المؤ منين على عليه السلام و دست چپ من از آن من و بدين گونه با با او بيعت مى كنم و خلافت او را با جان و دل مى پذيرم .چون هاشم بن عتبة اين چنين بيعت كرد، هيچ عذرى براى ابو موسى اشعرى نماند، او نيز برخاست و با على عليه السلام بيعت كرد، به دنبال او بقيه مردم كوفه با على ابن ابى طالب عليه السلام بيعت كردند.
بيعت اهل يمن
اهل يمن با شنيدن پذيرش خلافت از جانب امير المؤ منين على عليه السلام گروه گروه به مدينه رهسپار شدند و ضمن تهنيت گفتن ، با على بن ابى طالب عليه السلام بيعت كردند.از بزرگان يمن نخستين كسى كه به سوى مدينه حركت كرد، رفاعة بن وائل همدانى از قبيله همدان بود و بعد از او رويبة بن وبر بجلى به اتفاق قبيله اش به سوى مدينه روى آورد شب و روز در حركت بودند تابه خدمت اميرالمؤ منين على عليه السلام شرفياب شدند. چون خبر حركت بزرگان يمن به على عليه السلام رسيد. به مالك اشتر فرمود با جماعتى از مشاهير مدينه به استقبال آنان رود.مالك اشتر هم با شكوه فراوان و تدارك نيكو از مدينه خارج شد و به استقبال رفت . وقتى آنان را ملاقات كرد، خير مقدم گفت و آنان را نيك گرامى داشت و گفت :اى اهل يمن ! به قومى نيكو وارد شديد، كه شما را دوست دارند، و شما نيز به آنان محبت داريد، به خدمت امامى عادل ، خليفه اى فاضل كه مهاجر و انصار او را پسنديده و بر خلافت او اتحاد و اتفاق دارند، رسيده ايد، پس به همراه مالك اشتر به مدينه وارد شدند، روزى به استراحت پرداختند و در روز ديگر ده نفر از مشاهير آنان يعنى عياض بن خليل ازدى و رفاعة بن وائل همدانى و كيسوم بن سلمة الجهنى و رويبة بن وبر