Không chịu được lời gièm pha năm 615, Muhammad cùng khoảng 101 tín đồ Hồi giáo đã rời khỏi Mecca. Đến thành phố Medina, ngày nay thuộc Ả Rập Saudi, ông được các tín đồ đón tiếp nồng nhiệt, trở thành lãnh tụ của phần đông người dân thành phố này. Năm 622, Muhammad tuyên bố thành lập nên nhà nước Hồi giáo đầu tiên trong lịch sử.
Thành công với vai trò là người truyền giáo, nhưng ít người biết rằng Muhammad cũng là thủ lĩnh quân sự kiệt xuất. Tại Medina, Muhammad dần dần thành lập một lực lượng chính trị kết hợp với tôn giáo. Muhammad thường xuyên tập kích các đội quân của Mecca, do đó chiến tranh giữa Medina và Mecca đã diễn ra nhiều lần.
Năm 630, Muhammad phát động cuộc chiến ở Mecca với 10.000 người, đây được coi là đội quân Hồi giáo mạnh mẽ nhất vào thời điểm đó. Mecca không dám chống cự. Vậy là sau 15 năm lưu lạc khỏi quê hương, Muhammad đã trở về Mecca trong tư thế hiên ngang. Đó là hành trình của một đứa trẻ mồ côi đi đến sự thống nhất ở quê hương.
Năm 632, Muhammad chết. Muhammad được kế vị bởi 4 vị Caliphate (Abu Bakr, Umar, Uthman, Ali Talib), nghĩa là người kế thừa của nhà tiên tri. Trong những năm cuối trước khi qua đời, Muhammad đã thống nhất được các bộ lạc Ả Rập, đưa thế giới Hồi giáo do ông lập nên trở thành một chính thể hợp nhất.
Để mở rộng đất đai và truyền bá đạo Hồi, Đế chế Hồi giáo tích cực thi hành chính sách xâm lược bên ngoài. Dưới sự lãnh đạo của những Caliphate - những thiên tài quân sự kiệt xuất được bầu làm người kế vị. Kết quả Ả Rập đã lần lượt chinh phục được Xiri (năm 636), Palestine (năm 638), Ai Cập (642), Ba Tư (651). Hồi Giáo từ một giáo phái nhỏ ở sa mạc đã biến thành một đế chế rộng lớn.
Sau khi Muhammad chết, từ năm 632 đến năm 661, các Caliphate đều do giới quý tộc bầu ra. Năm 661, Caliphatea Ali vốn là em con chú và là con rể của Muhammad bị giết chết, viên tổng đốc ở Xiri thuộc họ Umayyad được lập lên làm Caliphate. Từ đó ngôi Caliphate trở thành cha truyền con nối. Triều Umayyad tiếp tục thực thi chính sách chinh phục bên ngoài, kết quả Ả Rập chiếm được một dải ở miền Bắc châu Phi và bán đảo Tây Ban Nha, đến giữa thế kỷ VIII, Ả Rập trở thành một đế chế rộng lớn, lãnh thổ kéo dài ba châu là châu Á, châu Phi, châu Âu.
Năm 750, giữa người Ả Rập với nhau có sự bất hòa và các dân tộc bị người Hồi giáo xâm lược cũng bất tuân phục đế chế. Nhà Abbasid đã lật đổ nhà Umayyad và cai trị thế giới Hồi giáo trong 500 năm. Dưới triều đại Abbasid, đế chế Hồi giáo được thống nhất, nền văn hóa Hồi giáo hưng thịnh.
Đế chế Arab về thực chất chấm dứt tồn tại vào khoảng năm 900, mặc dù triều Abbasid duy trì vai trò tôn giáo với tư cách là các Caliphate ở Baghdad cho đến tận khi thành phố này bị người Mông Cổ phá hủy vào năm 1258.
Cũng như những đế chế khác, đế chế Hồi giáo rồi cũng suy vong cũng bởi không duy trì được những giá trị cốt lõi - khi khát vọng trở thành đế chế không biên giới nhưng được xây dựng dựa trên lòng tham, không chấp nhận việc bị giới hạn lãnh thổ dẫn đến liên tục đánh chiếm các lãnh thổ xung quanh dù đã trở thành một đế chế hùng mạnh.
Đế chế nổi lên tuy có học hỏi, sáng tạo nhưng thiếu sự toàn diện, sự học hỏi sáng tạo nhằm phục vụ cho mục đích bành trướng lãnh thổ và tôn giáo; Niềm tin tuyệt đối vào người được chọn, tôn giáo dẫn đến tư tưởng cực đoan; Mâu thuẫn của các nhánh nhỏ trong lòng một tôn giáo lớn, của các bộ lạc trong lòng một đế chế gây nên sự mất đoàn kết dân tộc trong quá trình chinh phục; sự bất ổn về chính trị và an ninh khi khi áp dụng chính sách áp đặt thay đổi tôn giáo của dân cư các vùng bị chinh phục.
Dẫu chỉ tồn tại trong khoảng 3 thế kỷ, đế chế Hồi giáo vẫn để lại một di sản lịch sử lớn, ảnh hưởng sâu rộng đến thế giới ngày nay.