他兴起的时候，他的国必破裂，向天的四方（“方”原文作“风”）分开，却不归他的后裔，治国的权势也都不及他，因为他的国必被拔出，归与他后裔之外的人。（但11:4）
一般人认为这是希腊分裂成四个国度的应验，亚历山大去世后，他手下的四个将军分割统治希腊，其中三个建立规模较大的王朝，分别是南部的托勒密、北部塞琉古与西部安提柯，东部第四个将军建立的小王国佩加蒙。
公元前301年，托勒密一世将犹大地合并到托勒密，于是生活在犹大地的犹太人在波斯统治后，经过亚历山大短暂的统治并入托勒密王朝。
托勒密一世曾亲自下令建立了举世闻名的亚历山大图书馆，最盛时藏书约七十万卷，可谓是当时世界上最大的图书馆，它的建成吸引了当时大量的学者，像阿基米德、欧几里德等著名学者都来此从事研究。托勒密二世最伟大的贡献莫过于组织翻译圣经，即我们今天熟悉的七十士译本。犹太人在托勒密王朝前期的统治下，度过了算是非常平静的日子。
公元前198年，北部塞琉古王朝的统治者安提阿哥三世从托勒密王朝手中夺取了犹太地。从此以后，犹太人的日子一天比一天艰难。安提阿哥三世原本一开始想赢得犹太人的好感，但随着流亡的汉尼拔来到塞琉古王朝后，情况就开始转变了。倒不是因为汉尼拔，而是安提阿哥三世自己越来越觉得自己足够强大，结果惨败罗马并需要支付对方高额的战争赔款。
为了赔偿罗马人的巨额赔款，安提阿哥三世搜刮民财，犹太人不仅跟着遭殃，连耶路撒冷的圣殿也几乎被搜刮一空。在混乱中，安提阿哥三世被刺杀身亡。随后塞琉古四世继续支付给罗马战争赔偿金，他因此而要实施急进的政策，结果也被刺身亡。他的弟弟就是被犹太人称之为“疯子”的安提阿哥四世。
犹太人自从巴比伦回归之后，他们就坚持一神论的信仰，即便亚历山大统治期间，他本人还是比较尊重犹太人的信仰，包括后来的托勒密王朝前期统治，直到被塞琉古王朝统治，尤其是安提阿哥四世。
公元前175年，安提阿哥四世与亲希腊化的犹太人结成联盟，将耶路撒冷改名为安提阿，并将大祭司的职位先后卖给倾向希腊化的耶孙和莫内劳斯，而莫内劳斯根本不是祭司家族中人。在反对莫内劳斯为大祭司的过程中，有的犹太人被打死，据说这就是最早出现的“殉道者”概念。
安提阿哥四世梦想征服埃及，但一直不能实现自己的夙愿，于是他就迁怒犹太人，理由是犹太人不接受希腊化，才导致他始终不能征服埃及。他强制在耶路撒冷圣殿将猪献给宙斯，结果导致犹太人拼命抵抗，并最终还建立了犹太人自己的哈斯摩尼王朝。
公元前165年12月25日，圣殿被亵渎三年之后，犹太人在马提亚·哈斯摩尼的儿子犹大·马加比的带领下重新洁净圣殿，这也是犹太人修殿节的来历。该节日犹太人会在殿中满布烛光，故也称为“烛光节”约翰福音第十章第二十二节记载：“在耶路撒冷有修殿节，是冬天的时候。”
公元前143年，犹太人终于在马提亚之第二子西门·马加比的带领下重整军力，并最终得到塞琉古王朝的承认成了犹太国，即哈斯摩尼王朝。建国后第二年西门·马加比被选为终身祭司长，从此祭司与君主之职在马加比家族内世袭相传，可惜他自己于公元前135遭其亲埃及之女婿暗杀。
西门被害后，其子许尔堪一世即位。塞琉古王朝君主安提阿哥七世出兵犹太国，许尔堪一世接连战败差点国破人亡，他只好和罗马签订丧权辱国之条约，以缓解犹大国被亡的危机。
公元前129年，许尔堪一世抓住安提阿哥七世去世的机会，占领撒玛利亚，并摧毁了撒玛利亚建立的圣殿，继续南下占领以东地，委托当地人安提帕为长官，此人正是大希律的父亲，他改信犹太教。
正当许尔堪一世在进行收复失地之争战时，犹太人亲罗马派与反罗马派互相倾轧。亲罗马派多为贵族和中上阶层人士，就是“撒都该人”之前身；反罗马派则是敬虔之人，是“法利赛人”之前身，这派人士对许尔堪一世的世俗作风十分不满，但却深得人民所拥护。两派彼此之间的仇恨越来越深，最后竟达到水火不容的地步，并演绎成犹太人内战，时间长达六年，死于两派战祸的犹太人高达五万。
许尔堪一世死后，其子亚利多布一世继位。他生性凶残，杀害亲母及兄弟，在位仅一年，唯一的事业就是将加利利变为犹大的国土。他死后其弟亚历山大占尼士上位，娶了其寡妇之嫂为妻。他为人比其兄更暴戾凶恶，常怂恿撒都该人与法利赛人斗杀。他死后其妻执政，以其长子许尔堪二世为祭司长，但遭其次子亚利多布二世反对。长子乃法利赛派，其弟则为撒都该派，此后两兄弟之党派继续自相残杀。
许尔堪二世因不敌其弟，故有隐退之心，但大希律的父亲安提帕却背后鼓动许尔堪二世继续与其弟亚利多布二世鹬蚌相争。此时，庞培带领的罗马大军已完成对塞琉古王朝的灭亡，正开始兵临耶路撒冷城下。许尔堪二世和弟亚利多布二世都希望获得庞培的青睐，最后许尔堪二世胜出，亚利多布二世被擒并成为俘虏。许尔堪二世虽然保住了自己大祭司的职位，但哈斯摩尼王朝也结束了，大希律的父亲安提帕则成为罗马犹大省的省长。
