سرزمين جنوب غربى جزيرةالعرب كه در كتيبه هاى باستانى به نام يمنت ناميده شده است از 1200 ق م داراى نظام هاى حكومتى مَعين، قَتبان، اوسان و سبأ بود ولى در هنگام ظهور اسلام از نظامات پادشاهى و قدرت مركزى كه نفوذ سياسى آن بر سراسر يمن گسترده باشد، خبرى نبود و شيوخ قبايل مدعى پادشاهى درگير نزاع سياسى با يكديگر بودند. اسلام در سال هاى نهم و دهم هجرى در ميان همه قبايل راه يافت و بتكده هاى عربستان جنوبى ويران شدند. قبايل يمنى با ارسال نمايندگان خود به مدينه منوّره تابعيّت قدرت سياسى رسول خدا(ص) را پذيرفتند و شهرها و مخلاف هاى يمن به وسيله نمايندگان اعزامى و يا رهبران مسلمان محلى اداره شدند. يكى از اين مأموران رسول خدا(ص)، على (ع) بود كه در سال ده هجرى به سرزمين هَمْدان و مَذْحِج فرستاده شد. وى در آن مناطق به اقدامات حكومتى با اختيار كامل قضايى، اقتصادى و تعليم اصول اسلامى، دست زد و از اين جا قبايل يمنى با على(ع) آشنا شدند و مهر و محبت وى در قلب آنان راه يافت و با رحلت رسول الله(ص) برخى از آنان از نظريه رهبرى سياسى وى پشتيبانى كردند.پس از فتوح اسلامى يمنى ها به عراق و شام مهاجرت كردند و در صف بندى عراق و شام سهيم شدند. در بيعت با اميرمؤمنان(ع) و تشكيلات حكومتى وى يمنى ها و نزارى ها شركت جستند ولى اشتياق يمنى ها براى همراهى با على(ع) بيشتر بود، در عين حال برخى از آنان از وى كناره گيرى كردند. در پيكارهاى روزگار خلافت على(ع) هر دو گروه قبايل يمنى و نزارى در دو رويه همراهى و مخالفت با وى شركت داشتند به طورى كه در جمل 37 درصد و در صفين 42 درصد ياران وى را يمنى ها تشكيل مى دادند، درحالى كه 59درصد از لشكريان معاويه يمنى بودند.در واقعه كربلا از هفتاد و دو نفر ياران امام حسين(ع) سى وچهار نفرشان يمنى بودند. اين شهداء با انتخابى آگاهانه مبتنى بر شناخت عميق نسبت به مقام امام حسين(ع) كه او را جانشين و وارث رسول خدا(ص) مى دانستند، در اين راه گام برداشتند. بدين سان هدف آنان بر عقيده اى خالصانه استوار بود و ارتباطى با گرايش هاى قبيله اى، قومى و ميراث تاريخى حكومت هاى باستانى يمن نداشت.