1935年4月，红四方面军在青牛场建乡苏维埃政权，辖王家山、白牛寺、柴家坝、沈家湾4个村苏维埃。
1936年，青牛庙与现剑阁县的鸳溪乡建一联保处，治地鸯溪口。
1937年6月，联保处迁于青牛庙，由十个保组成，实行保甲制。
1940年10月，撤青牛乡联保处划归虎跳乡公所。
1947年，青牛庙从虎跳乡公所划归鸳溪乡。
1949年10月至1951年7月，青牛庙仍属鸳鸯乡。
1951年7月建青牛乡人民政府，属昭化县龙凤区。
1952年划归虎跳区公所。
1956年撤乡，并归虎跳乡。
1958年从虎跳乡划出，复置青牛乡，同年改为公社。
1984年改为青牛乡。
1992年10月并入虎跳镇，1995年10月复置青牛乡。
2013年因亭子口移民工程政府驻地迁移至白牛村火烧包，属广元市昭化区。
2019年，撤乡设镇，以原青牛乡文书村、苏山村、莲池村、团结村、白牛村所属区域为青牛镇的行政区域。