其始祖是定居于麦加的古莱什部落的哈希姆（约464年~ ？）。哈希姆的原名是阿穆尔，“哈希姆”的意思是“掰开面饼的人”，这个称号的来源是某一年麦加旱灾时哈希姆拿出自己的食物赈济灾民。哈希姆的曾孙即为穆罕默德。

到穆罕默德出生时，哈希姆家族已经衰落。当穆罕默德在麦加开始宣传伊斯兰教时，其伯父、族长艾布·塔利卜（540～620）尽管没有信奉伊斯兰教，但以全力保护了穆罕默德的安全。

穆罕默德去世后，哈希姆家族认为应由其家族成员为穆罕默德事业的合法继承人，从此开始了各政治派别争夺哈里发地位的斗争。其最著名的人物有阿里和其子哈桑、侯赛因及穆罕默德的叔父阿拔斯的后裔。

哈希姆家族在当今世界上最著名的是哈桑的后裔。其世代居住于麦加，获得了谢里夫的称号。从10世纪起，哈桑的后裔成为麦加及其周围地区世袭的埃米尔，管理克尔白。