中平元年（184年[lbk]78[rbk]），黄巾起义爆发，刘备在涿县组织起了一支义勇军参与扑灭黄巾军的战争，张飞、关羽加入其中，随刘备辗转各地。三人情同兄弟，寝则同床，刘备出席各种宴会时，张飞和关羽终日侍立在刘备身旁。[lbk]1[rbk]
初平二年（191年[lbk]89[rbk]），刘备投奔公孙瓒，与青州刺史田楷一起对抗冀州袁绍，累有战功，被封为平原相，张飞与关羽在刘备手下任别部司马，分统刘备部曲。[lbk]2[rbk]
兴平元年（194年[lbk]79[rbk]），北海太守孔融被黄巾军余党管亥围困，派太史慈前来请求援助，张飞随刘备带兵前往救助。后曹操又因为自己父亲被杀发兵攻打徐州，张飞又随刘备前往徐州救援陶谦，陶谦表刘备为豫州刺史，张飞随刘备屯兵于小沛，同年陶谦病死[lbk]79[rbk]，刘备受邀以徐州为根据。