وفي رمضان أرسل عليه الصلاة والسلام عليا في جمع إلى بني مذحج قبيلة يمانية وعمّمه بيده وقال: …
«سر حتى تنزل بساحتهم، فادعهم إلى قول: لا إله إلّا الله، فإن قالوا: نعم فمرهم بالصلاة، ولا تبغ منهم غير ذلك، ولأن يهدي الله بك رجلا واحدا خير لك مما طلعت عليه الشمس، ولا تقاتلهم حتى يقاتلوك»، فلمّا انتهى إليهم لقي جموعهم فدعاهم إلى الإسلام فأبوا، ورموا المسلمين بالنبل فصفّ علي، أصحابه، وأمرهم بالقتال، فقاتلوا حتى هزموا عدوهم فكفّ عن طلبهم، ثم لحقهم ودعاهم إلى الإسلام فأجابوا، وبايعه رؤساؤهم وقالوا: نحن على من وراءنا من قومنا، وهذه صدقاتنا فخذ منها حق الله، ففعل. ثم رجع إلى رسول الله صلّى الله عليه وسلّم فوافاه بمكّة في حجة الوداع.