La società nacque nel 1946 con il nome di Spartak Kursk. Dal 1958 al 1965 e dal 1967 al 1972 la squadra portò il nome di Trudovye Rezervy, con l'unica parentesi del 1966, anno in cui assunse la denominazione di Trud. Nel 1973 la società assunse il nome attuale. I migliori risultati in epoca sovietica furono rappresentati dalla partecipazione a cinque campionati di seconda serie tra il 1958 e il 1962[1].
Dopo la fine dell'Unione Sovietica l'Avangard fu ammessa nella terza serie[2], ma nel 1994 fu retrocessa in Tret'ja Liga a causa della riforma dei campionati che restrinse il numero delle squadre di terza serie. Nel 1995 ottenne la promozione, tornando così in terza serie. Nel 2004, grazie al secondo posto nel proprio girone di Vtoroj divizion, l'Avangard conquistò la promozione in Pervyj divizion, campionato in cui militò per tre anni di fila[2]. Nel 2007 la squadra finì nuovamente in Vtoroj divizion, ma l'anno seguente ottenne una nuova promozione[2]. Giunta ultima nella Pervyj divizion 2010[3], gioca successivamente nel girone "Centro" della Vtoroj divizion[2].
Nel 2016-2017 vinse tale girone, tornando in seconda serie; nel 2019 vinse la Kubok FNL, torneo amichevole riservato alle squadre di seconda serie[4]. Mantenne la seconda serie fino al 2020 quando, pur giunta tredicesima, rinunciò alla categoria per scendere in terza serie[2].