Datong a été fondée en l’an 200 avant JC comme ville de garnison après la bataille de Baideng contre les peuples nomades. Elle est située, entre deux sections de la Grande Muraille, au point de sortie vers la Mongolie et dut son développement au passage des caravanes entrant et sortant du territoire. En 398, la dynastie des Wei du Nord l’adopta comme sa capitale. Datong était alors la ville la plus prospère de Chine. Les grottes de Yungang, qui se trouvent à proximité, ont été creusées à cette époque.