647년, 당제국이 돌궐제국의 중심지였던 울독군산을 점령하면서 이 영토를 효과적으로 지배하기 위해 연연도호부(燕然都護府)를 설치하면서 비롯되었다. 13개의 주와 부를 나누어 관할였는데 663년, 한해도호부(翰海都護府)로 개칭되었다. 669년, 당나라가
철륵의 계열인 회흘까지 침략하여 정복하는데 성공하자 당나라의 관할 하에 들어왔고 안북도호부(安北都護府)로 개칭하였다.
돌궐제국이 다시 부흥하면서 거세게 저항하였고 안북도호부는 대부분의 관할지역을 철수하였고 714년,
당현종은 왕준을 삭방행군대총관 겸 안북대도호에 임명하고, 중수항성으로 치소를 옮겼다. 722년, 풍주와 승주의 경계 사이에 치소를 다시 옮겼고, 724년에 천덕군으로 치소를 이전했다. 745년, 돌궐과 철륵계 민족과 전쟁하기 위해 음산 (陰山)에 치소를 옮겼다. 757년,
당숙종은 안사의 난의 계기로 안북도호부를 진북도호부(鎮北都護府)로 개칭하였다. 784년, 당은 안북도호부를 폐지시켰다.