История мусульманской Мекки начинается с 630 года. Тогда в ходе завоевательного похода были уничтожены идолы курайшитов — правящего племени древней Мекке. Город покинули жители, которые отказались принять ислам. В 930 году на Мекку не напали представители радикальной шиитской секты — карматы. В этом движении состояли крестьяне и ремесленники из Сирии, Ирака и Бахрейна. Одним из центральных в секте был лозунг социального равенства. Он находил отклик представителей низших социальных слоев, с трудом добывающих пропитание для своих семей. Идея общности имущества не распространялась на рабов.
В основу учения карматов легла программа шиитской секты исмаилитов. В свою очередь, предпосылкой к возникновению исмаилизма стало тяжелое налоговое бремя, разорившее простых шиитов. В 890 году карматы попытались ввести «уравниловку» в Ираке; они подняли в одном из городов масштабное восстание. Вскоре мятеж начался в Бахрейне. Жители обязались выплачивать карматам дань.
Карматы верили в пришествие истинного «сокрытого» имама Мухаммада. В Бахрейне представители этой секты похищали людей и разоряли целые деревни. Лидером карматов стал Абу Тахир аль-Джаннаби, под его началом карматы разграбили крупные города Ирака. В 930-м войска аль-Джаннаби вошли в Мекку. Находясь у ворот города, военачальник попросил у местных жителей разрешения войти и поклониться святыням. Абу Тахир обещал, что его бойцы сложат оружие.
Карматы вошли в Мекку и начали резню; не жалели ни взрослых, ни детей. Сотни погибших остались лежать на улицах, тела бросали и в колодец у мечети Аль-Харам. Уходя, карматы забрали с собой Черный камень. Согласно преданию, когда-то артефакт находился в раю; его пропажа стала серьезной потерей для мусульман. В 951-м году камень вернулся в Мекку после уплаты большого выкупа.
В 1050 году египетский халиф послал человека, чтобы уничтожить Каабу. Святыня два раза горела, а в начале XVII века ее затопило. Сегодня Черный камень представляет собой осколки черно-красного цвета в серебряном футляре, вмонтированном в восточном углу Каабы.