羯族在中国历史上存在不算太长。在东晋十六国时期建立了后赵政权，是北方游牧民族匈奴族贵族的奴隶军队。匈奴造反的时候，羯人强大，最后消灭了匈奴政权。五胡乱华时期的一段时间内在中国北方地区称霸，成为北方游牧民族政权之一。羯族从某种意义上说还不能成为一个真正的民族，因为它只是当时匈奴族的一个分支或部落。羯人入塞之前，隶属于匈奴，即匈奴别落。其种族的根源，众说纷纭，多不足以为实。约于中国汉朝时期被当时的匈奴族所俘而带入中国。