সিরিয়ায় আলীর শাসন মেনে নেয়া হয়নি, সেখানে বিরোধী পক্ষের নেতৃত্ব দিচ্ছিলেন মুয়াবিয়াহ্, দামাস্কাসের তাঁর রাজধানী থেকে। উসমান ছিলেন তাঁর আত্মীয় এবং উমাঈয়াহ্ পরিবারের নতুন নেতা হিসাবে এবং একজন আরব গোত্রপ্রধান হিসাবে উসমানের হত্যার বদলা নেয়া দায়িত্ব ছিল তাঁর। মক্কার ধনীক গোষ্ঠি আর সিরিয়ার আরবরা তাঁকে সমর্থন জোগায়, যারা তাঁর শক্তিশালী ও প্রাজ্ঞ সরকারের প্রশংসামুখর ছিল। আলী হয়ত মুয়াবিয়া অবস্থানের প্রতি কিছুটা সহানুভূতি বোধ করেছিলেন এবং প্রাথমিক অবস্থায় তাঁর বিরুদ্ধে কোনও ব্যবস্থা নেননি। কিন্তু পয়গম্বরের আত্মীয় পরিজন ও সহচরগণের পরস্পরের ওপর হামলে পড়ার অবস্থাটি দারুণ বিব্রতকর দৃশ্য ছিল। মুহাম্মদের(স:) মিশন ছিল মুসলিমদের মাঝে একতাবোধের বিস্তার আর উম্মাহকে সংগঠিত করা যাতে ঈশ্বরের একত্ব প্রকাশ পায়। আরও বিবাদের আশঙ্কাজনক সম্ভাবনা ঠেকানোর লক্ষ্যে উভয় পক্ষ ৬৫৭-এ ইউফ্রেটিসের উজানে সিফফিনের এক বসতিতে সমাধানে পৌঁছার লক্ষ্যে আলোচনায় মিলিত হয়; কিন্তু কোনও সিদ্ধান্ত ছাড়াই শেষ হয় তা। মুয়াবিয়ার সমর্থকরা বর্শার শীর্ষে কুরানের কপি বিঁধিয়ে নিরপেক্ষ মুসলিমদের প্রতি ঈশ্বরের বাণী মোতাবেক প্রতিদ্বন্দ্বীদের মাঝে একটা ফয়সালা করার আহ্বান জানায়। এটা প্রতীয়মান হয় যে, সালিশির ফলাফল আলীর বিপক্ষে গিয়েছিল এবং তাঁর অনেক অনুসারী তাঁকে রায় মেনে নিতে সম্মত করাতে চেয়েছে। এতে করে নিজেকে ক্ষমতাবান ভেবে মুয়াবিয়াহ্ আলীকে পদচ্যুত করেন, ইরাকে সেনাবাহিনী প্রেরণ করেন এবং জেরুজালেমে নিজেকে খলিফাহ্ হিসাবে ঘোষণা দেন।
কিন্তু আলীর কিছু সংখ্যক চরমপন্থী সমর্থক সালিশের রায় মেনে নিতে অস্বীকৃতি জানায়, আলীর নতি স্বীকারে প্রচণ্ড আহত বোধ করেছিল তারা। তাদের দৃষ্টিতে উসমান কুরানের নির্দিষ্ট মান অনুযায়ী চলতে ব্যর্থ হয়েছিলেন। আলীও উসমানের ভুল শোধরানোতে ব্যর্থ হয়ে অন্যায়ের সমর্থকদের সঙ্গে আপোস করেছেন, সুতরাং তিনি প্রকৃত মুসলিম নন। তারা নিজেদের উম্মাহ্ থেকে বিচ্ছিন্ন করে নেয়, যা কিনা তাদের দাবী অনুযায়ী কুরানের চেতনার সঙ্গে বিশ্বাসঘাতকতা করেছে; একজন স্বাধীন কমান্ডারের অধীনে নিজস্ব শিবির স্থাপন করে তারা। আলী এসব চরমপন্থীকে দমন করেন, যারা খারেজি (বিচ্ছিন্নতাবাদী) নামে পরিচিত হয়েছে; মূল বিদ্রোহীদের নিশ্চিহ্ন করলেও গোটা সাম্রাজ্যে আন্দোলন বেগবান হয়ে ওঠে। অনেকেই উসমান- আমলের স্বজনপ্রীতির কারণে অসহিষ্ণু বোধ করেছিল, কুরানের সাম্যতার চেতনা বাস্তবায়ন করতে চেয়েছিল তারা। খারেজিরা আগাগোড়াই সংখ্যালঘু দল, কিন্তু তাদের অবস্থানের গুরুত্ব রয়েছে, কেননা এটাই এক গুরুত্বপূর্ণ মুসলিম ধারার প্রথম নজীর, যার দ্বারা উম্মাহর নৈতিক বোধকে প্রভাবিতকারী রাজনীতি এক নয়া থিয়োলজিক্যাল বিকাশের পথে অগ্রসর হয়েছিল। খারেজিরা জোর দিয়েছিল যে ইসলামী গোষ্ঠীর শাসককে সবচেয়ে শক্তিশালী হওয়ার প্রয়োজন নেই, তাঁকে বরং সবচেয়ে নিবেদিত মুসলিম হতে হবে; খলিফাঁদের মুয়াবিয়ার মত ক্ষমতাকাঙ্ক্ষী হওয়া উচিত নয়। ঈশ্বর মানবজাতিকে স্বাধীন ইচ্ছা দান করেছেন- যেহেতু তিনি ন্যায় বিচারক, তিনি অবশ্যই মুয়াবিয়াহ্, উসমান এবং আলীর মত অন্যায়কারীদের শাস্তি দেবেন, যাঁরা ইসলামের সঙ্গে বিশ্বাসঘাতকতা করে ধর্মত্যাগী হয়ে গেছেন। খারেজিরা চরমপন্থী বটে, কিন্তু মুসলিমদের তারা ভাবতে বাধ্য করেছিল কে মুসলিম আর কে নয় সেটা বিবেচনা করার জন্যে। ধর্মীয় ধারণা হিসাবে রাজনৈতিক নেতৃত্বের প্রশ্নটি এতই গুরুত্বপূর্ণ ছিল যে তা ঈশ্বরের প্রকৃতি, পূর্ব-নির্ধারিত নিয়তি আর মানুষের স্বাধীনতার মত বিষয়ে আলোচনার সূত্রপাত ঘটিয়েছিল।
খারেজিদের প্রতি আলীর কঠোর আচরণে তাঁর বহু সমর্থক, এমনকি কুফায়ও, সমর্থন প্রত্যাহার নিয়েছিল। ক্রমশঃ শক্তশালী হয়ে ওঠেন মুয়াবিয়াহ্, আরবদের অনেকেই নিরপেক্ষতা বজায় রাখে। সালিশের দ্বিতীয় প্রয়াস, যেখানে আরেকজন খলিফাহ্ প্রার্থী খোঁজার চেষ্টা হয়েছিল, ব্যর্থ হয়; মুয়াবিয়ার সেনাবাহিনী আরবে তাঁর শাসনের বিরোধিতাকারীদের পরাস্ত করে এবং ৬৬১তে জনৈক খারেজির হাতে প্রাণ হারান আলী। কুফায় যারা আলীর আদর্শের প্রতি বিশ্বস্ত রয়ে গিয়েছিল তারা আলীর পুত্র হাসানকে খলিফাহ্ হিসাবে ঘোষণা দেয়, কিন্তু হাসান মুয়াবিয়াহ্র সঙ্গে চুক্তিতে উপনীত হন এবং অর্থের বিনিময়ে মদীনায় ফিরে যান। সেখানেই তিনি ৬৬৯-এ পরলোকগমনের আগ পর্যন্ত রাজনীতি নিরপেক্ষ জীবনযাপন করেন।
এইভাবে উম্মাহ্ এক নয়া পর্যায়ে পৌঁছে। মুয়াবিয়াহ্ দামাস্কাসে রাজধানী স্থাপন করে মুসলিম সমাজের ঐক্য ফিরিয়ে আনার পদক্ষেপ নেন। কিন্তু একটা প্যাটার্ন খাড়া হয়ে গিয়েছিল। এবার ইরাক এবং সিরিয়ার মুসলিমরা পরস্পরের প্রতি বিদ্বেষপূর্ণ হয়ে পড়ে। অতীতের আলোকে আলীকে ভদ্র, ধার্মিক মানুষ হিসাবে মনে হয়েছে যিনি বাস্তব রাজনীতির যুক্তির কাছে হেরে গিয়েছেন। ইসলাম ধর্ম গ্রহণকারী প্রথম পুরুষ এবং পয়গম্বরের ঘনিষ্ঠতম পুরুষ আত্মীয় আলীর হত্যাকাণ্ডকে সঙ্গত কারণেই ন্যাক্কারজনক ঘটনা হিসাবে দেখা হয়েছে, ঘটনাটি উম্মাহর নৈতিক- সততাকে প্রশ্নবিদ্ধ করে দিয়েছিল। সাধারণ আরব বিশ্বাস অনুযায়ী আলী পয়গম্বরের ব্যতিক্রমী গুণাবলীর কিছুটা ধারণ করেছিলেন বলে ভাবা হত এবং তাঁর পুরুষ বংশধরদের নেত্বস্থানীয় ধর্মীয় কর্তৃপক্ষ হিসাবে শ্রদ্ধা করা হয়ে থাকে। মিত্র এবং প্রতিপক্ষের বিশ্বাসঘাতকতার শিকার একজন মানুষ হিসাবে আলীর পরিণতি জীবনের অন্তর্গত অবিচারের প্রতাঁকে পরিণত হয়েছে। সময়ে সময়ে শাসক খলিফার আচরণের বিরুদ্ধে প্রতিবাদ জ্ঞাপনকারী মুসলিমরা খারেজিদের মত নিজেদের উম্মাহ্ থেকে বিচ্ছিন্ন করে সকল প্রকৃত মুসলিমদের আহ্বান জানিয়েছে আরও উন্নতর ইসলামী মানে উন্নীত হওয়ার জন্যে তাদের সঙ্গে সংগ্রামে (জিহাদ) যোগ দেয়ার। প্রায়শঃ তারা নিজেদের শিয়াহ-ই-আলী’র অংশ- আলীর পক্ষাবলম্বনকারী হিসাবে দাবী করেছে।
