骊山军团于秦二世二年初编成，主体是关中地区的农民以及骊山刑徒，武器装备直接取自武库，骊山军团的编成由关中军团直接监督，可能也有一部分为关中军团成员，尽管史记记载骊山军团都是骊山刑徒，但是综合秦朝当时的实际情况及后来的研究成果，全部为骊山刑徒的可能性不大，骊山军团于二世二年初同关中军团击溃周章军并杀周章，继而出关于十二月攻陷张楚首都陈县，并消灭陈胜军主力，陈胜于城父被车夫所杀。
再之后，在不到一年的时间内，骊山军团要一鼓作气，进入旧魏国地区，攻克魏国首都临济，平定魏国地区的叛乱，击败增援魏国的齐楚联军，杀死魏王田儋，二世二年九月，骊山军团会和长城军团于定陶击败楚军，杀死项梁，取得了平叛的最大胜利。
二世三年初，骊山军团几乎扑灭了黄河南岸的所有叛军，并渡过黄河，攻占旧赵国首都邯郸并围困赵王于巨鹿。骊山军团本准备配合长城军团围点打援，消灭六国援军。
遗憾的是在巨鹿之战的最关键时刻，骊山军团未能顶住项羽军的猛攻而溃退，直接导致长城军团腹背受敌，粮道被断，最终造成了巨鹿之战的惨败。之后章邯统帅骊山军团退守安阳，至七月份，由于畏惧赵高迫害，章邯与骊山军团二十万人投降项羽。在新安，项羽坑杀二十万秦军，骊山军团彻底走入历史。
