يحيى بعد از مدتى از آنجا خود را به (مدائن ) رساند، مدائن در آن زمان سر راه مسافرينى بود كه از عراق به طرف خراسان مى رفتند. خبر فرار يحيى از كوفه و آمدن او به نينوا و مدائن به يوسف بن عمر والى عراق رسيد. يوسف مردى را به نام (حريث بن ابى الجهم كلبى ) براى دستگيرى يحيى به مدائن فرستاد، ولى پيش از آنكه او به مدائن برسد يحيى از آنجا خارج شده بود و ماءموران يوسف نتوانستند از او رد پايى دريابند.
منزل يحيى در مدائن ، خانه دهقانى بود كه از او پذيرايى مى كرد. در رى و سرخس يحيى خود را به (رى ) رسانيد و از آنجا آهنگ (سرخس ) نمود و در آنجا به نزد يزيد بن عمرو تيمى رفت و حكم بن يزيد كه يكى از سران بنى اسيد بن عمرو بود براى مبارزه با بنى اميه به كمك خويش دعوت كرد. يحيى شش ماه نزد آن مرد ماند.
فرماندار سرخس كه از جانب حكام اموى نصب شده بود مردى معروف به (ابن حنظله ) بود و او از جانب عمر بن هبيره اين منصب را گرفته بود در اين شرايط گروهى از (خوارج ) به نزد يحيى آمدند و از او خواستند كه رهبرى آنان را در قيام بر ضد بنى اميه به عهده گيرد. آنان اينقدر در تقاضاى خود اصرار و پافشارى كردند كه يحيى نزديك بود در همكارى با آنان تصميم قطعى بگيرد، امّا يزيد بن عمرو ميزبان هوشيار يحيى او را از اين كار منصرف كرد و گفت : چطور اميد دارى به كمك مردمى جنگ كنى و بر دشمن خود پيروز گردى در حالى كه آنان از على (عليه السلام ) و خاندانش بيزارى مى جويند.
يحيى به واسطه اين سخن ، اعتمادش از آن مردم سلب شد، و از قيام به همراهى آنان منصرف گشت .
امّا يحيى سخنى كه موجب دلسردى آنها شود به آنان نگفت و با بيانى خوش آنها را از همراهى خويش ماءيوس كرد و آنان او را رها كردند. يحيى آرام نمى گيرد و به دنبال فرصت و موقعيت مناسب است ، بلكه بتواند نيروى قوى از مجاهدين و طرفداران خاندان پيامبر به دور خود جمع كند و به كمك آنان بر ضد حكومت بنى اميه قيام كند.
او هدفش را تعقيب مى كند و با اراده اى محكم و استوار در راه جهاد و شهادت گام مى نهد، او از سرخس هم ماءيوس شده و از آنجا عازم بلخ گرديد و به خانه يكى از از علاقمندان به خاندان پيامبر به نام حريش بن عبدالرحمن شيبانى وارد شد.