Trước thế kỷ XX, cộng đồng người Xơ Đăng ở Đăk Tô đã định hình thành một vùng cư trú tập trung khá rộng lớn. Trong những năm đầu thế kỷ XX, thực dân Pháp sau khi xâm lược mở rộng phạm vi chiếm đóng trên địa bàn tỉnh Kon Tum thì Đăk Tô là vùng đất sớm được thực dân Pháp tìm đến. Đầu những năm 1920, Pháp thiết lập ở Kon Tum những đồn binh để trấn áp các cư dân bản địa trong vùng, cai quản những vùng đất mới mở. Đồn Đăk Tô được khởi lập từ năm 1920 do quan đồn người Pháp là Bui Ron trấn giữ. Đồn này thực hiện cả hai chức năng về quân sự lẫn dân sự, đây chính là nền tảng cơ sở thành lập nên đơn vị hành chính Đăk Tô sau này.
Đến trước năm 1945, sau khi đại lý hành chính An Khê được tách khỏi tỉnh Kon Tum nhập về tỉnh Pleiku, thực dân Pháp cũng đã phân chia lại địa giới hành chính ở Kon Tum, đồng thời phân cấp về đơn vị hành chính. Tổng Tân Hương (nay là Thành phố Kon Tum) được đổi thành thị trấn trung tâm của tỉnh lỵ; đồng thời thiết lập các huyện là Đăk Tô, Đăk Glei và Kon Plong. Huyện Đăk Tô lúc mới hình thành ôm trọn phần đất cư trú của người Xơ Đăng ở vùng trung tâm của tỉnh nhưng ranh giới hành chính chỉ mang tính ước định chưa cụ thể.
Sau khi Bác Hồ đọc Tuyên ngôn độc lập thành lập Nước Việt Nam Dân chủ Cộng hòa ngày 02/9/1945, huyện Đăk Tô là một trong tổng số 4 huyện thuộc tỉnh Kon Tum. Bộ máy hành chính của huyện lúc đó chỉ mang tính đại diện. Tháng 6 năm 1946, thực dân Pháp tái chiếm lại tỉnh Kon Tum, áp dụng chế độ trực trị cho đến tháng 2 năm 1954.
Cũng thời gian trên (1946-1954) ngoài vùng chiếm đóng kiểm soát của người Pháp là vùng cơ sở, khu du kích, căn cứ kháng chiến của phong trào cách mạng địa phương huyện Đăk Tô. Theo phân cấp quản lý thì từ 1950, huyện Đăk Tô là địa bàn khu 2, một trong 7 khu được thành lập thuộc tỉnh Gia–Kon. Từ năm 1952 vùng căn cứ khu 2 (Đăk Tô) được tách ra ở hai phía: Phía Đông nhập về huyện Kon Plong; phía Bắc nhập với khu Đông đường 14 (huyện Đăk Glei). Tháng 2/1954, Bộ đội ta tấn công và giải phóng toàn huyện Đăk Tô. Từ tháng 2 năm 1954 đến tháng 7 năm 1954, huyện Đăk Tô nằm trong địa bàn khu 6 mới được thành lập và một phần địa bàn khu 2 (cũ) trước đó, thuộc quyền quản lý của chính quyền cách mạng.
Đến tháng 10/1954, sau khi Hiệp định Genève được ký kết, Đăk Tô tập kết chuyển quân, chính quyền cách mạng giải thể, tổ chức Đảng rút vào hoạt động bí mật. Quốc gia Việt Nam tiếp quản huyện Đăk Tô.
Năm 1955, chính quyền Đệ Nhất Cộng hòa Việt Nam sau khi củng cố quyền lực đã phân cấp hành chính ở tỉnh Kon Tum theo cơ cấu: Toà hành chính tỉnh, dưới tỉnh là quận, rồi đến xã, làng. Từ năm 1955 đến cuối năm 1957 Đăk Tô là một quận lớn trực thuộc Toà hành chính tỉnh Kon Tum. Thời kỳ này Đăk Tô xây dựng thành một trung tâm hậu cứ lớn phòng thủ án ngữ mặt Bắc tỉnh Kon Tum.
Năm 1958, thành lập quận lỵ hành chính Tu Mơ Rông đóng đồn lớn Đăk Hà tại xã Đăk Hà cách Đăk Tô 25 km về phía Đông Bắc. Nhưng đến năm 1965 thì bãi bỏ quận lỵ Tu Mơ Rông. Từ sau năm 1965 phân cấp hành chính của địch ở tỉnh Kon Tum có sự thay đổi. Đối với các khu vực thị xã, thị trấn thì giảm quận mà đặt phái viên hành chính. Về quân sự ở vùng quận lỵ, thì thành lập chi khu, ở các vùng có phái viên hành chính thì thiết lập yếu khu. Theo đó, trên địa bàn Đăk Tô có chi khu Đăk Tô và yếu khu Tu Mơ Rông.
Với Mùa hè đỏ lửa năm 1972, quân ta đã chiếm đóng được Đăk Tô – Tân Cảnh. Về mặt hành chính huyện Đăk Tô được thành lập với tên mật danh là H80, cho mãi đến ngày 17/3/1975 khi quân ta hoàn toàn tiếp thu tỉnh Kon Tum, H80 mới được đổi tên thành huyện Đăk Tô.
Tháng 10/1975, ba tỉnh Pleiku, Phú Bổn và Kon Tum sáp nhập thành tỉnh Gia Lai - Kon Tum, huyện Đăk Tô thuộc tỉnh Gia Lai - Kon Tum. Ban đầu huyện có 18 xã, gồm: Đăk Ang, Đăk Na, Đăk Pxi, Đăk Sao, Đăk Tơ Kan, Đăk Xú, Diên Bình, Kon Đào, Măng Xăng, Mô Rai, Ngọc Lây, Ngọc Tụ, Ngọc Yêu, Pô Kô, Pờ Y, Rơ Kơi, Tân Cảnh, Tu Mơ Rông.
Ngày 10/10/1978, huyện Đăk Tô được chia tách thành 2 huyện Đăk Tô và Sa Thầy theo Quyết định số 254-CP của Hội đồng Chính phủ, khi đó 4 xã Rơ Kơi, Mô Rai, Pờ Y và Đắk Xú được tách ra để thành lập huyện Sa Thầy, huyện Đăk Tô còn lại 14 xã.
Ngày 29/10/1983, chia xã Đăk Tơ Kan thành 2 xã lấy tên là xã Đăk Tơ Kan và xã Văn Lem; chia xã Đăk Pxi thành 2 xã lấy tên là xã Đăk Pxi và xã Đăk Hring; chia xã Tu Mơ Rông thành 2 xã lấy tên là xã Tu Mơ Rông và xã Đăk Hà.
Đăk Tô là tên gọi của dòng suối nước nóng trên địa bàn xã Kon Đào - trong vùng cư trú của người đồng bào dân tộc Xơ Đăng. Trong tổ chức xã hội truyền thống, người Xơ Đăng cư trú thành từng làng; làng của người Xơ Đăng thường gắn với lưu vực các con sông dòng suối hay quả đồi, ngọn núi và tên gọi của làng cũng được đặt theo tên địa danh các ngọn núi, hay dòng sông con suối đó. Đăk Tô là tên gọi của dòng suối nước nóng, đồng thời cũng là tên gọi của làng người Xơ Đăng, khi huyện Đăk Tô được thiết lập ở vùng đất này đã lấy Đăk Tô làm tên gọi địa danh chính thức.
Trước thế kỷ XX, cộng đồng người Xơ Đăng ở Đăk Tô đã định hình thành một vùng cư trú tập trung khá rộng lớn. Trong những năm đầu thế kỷ XX, thực dân Pháp sau khi xâm lược mở rộng phạm vi chiếm đóng trên địa bàn tỉnh Kon Tum thì Đăk Tô là vùng đất sớm được thực dân Pháp tìm đến. Đầu những năm 1920, Pháp thiết lập ở Kon Tum những đồn binh để trấn áp các cư dân bản địa trong vùng, cai quản những vùng đất mới mở. Đồn Đăk Tô được khởi lập từ năm 1920 do quan đồn người Pháp là Bui Ron trấn giữ. Đồn này thực hiện cả hai chức năng về quân sự lẫn dân sự, đây chính là nền tảng cơ sở thành lập nên đơn vị hành chính Đăk Tô sau này.
Đến trước năm 1945, sau khi đại lý hành chính An Khê được tách khỏi tỉnh Kon Tum nhập về tỉnh Pleiku, thực dân Pháp cũng đã phân chia lại địa giới hành chính ở Kon Tum, đồng thời phân cấp về đơn vị hành chính. Tổng Tân Hương (nay là Thành phố Kon Tum) được đổi thành thị trấn trung tâm của tỉnh lỵ; đồng thời thiết lập các huyện là Đăk Tô, Đăk Glei và Kon Plong. Huyện Đăk Tô lúc mới hình thành ôm trọn phần đất cư trú của người Xơ Đăng ở vùng trung tâm của tỉnh nhưng ranh giới hành chính chỉ mang tính ước định chưa cụ thể.
Sau khi Bác Hồ đọc Tuyên ngôn độc lập thành lập Nước Việt Nam Dân chủ Cộng hòa ngày 02/9/1945, huyện Đăk Tô là một trong tổng số 4 huyện thuộc tỉnh Kon Tum. Bộ máy hành chính của huyện lúc đó chỉ mang tính đại diện. Tháng 6 năm 1946, thực dân Pháp tái chiếm lại tỉnh Kon Tum, áp dụng chế độ trực trị cho đến tháng 2 năm 1954.
Cũng thời gian trên (1946-1954) ngoài vùng chiếm đóng kiểm soát của người Pháp là vùng cơ sở, khu du kích, căn cứ kháng chiến của phong trào cách mạng địa phương huyện Đăk Tô. Theo phân cấp quản lý thì từ 1950, huyện Đăk Tô là địa bàn khu 2, một trong 7 khu được thành lập thuộc tỉnh Gia–Kon. Từ năm 1952 vùng căn cứ khu 2 (Đăk Tô) được tách ra ở hai phía: Phía Đông nhập về huyện Kon Plong; phía Bắc nhập với khu Đông đường 14 (huyện Đăk Glei). Tháng 2/1954, Bộ đội ta tấn công và giải phóng toàn huyện Đăk Tô. Từ tháng 2 năm 1954 đến tháng 7 năm 1954, huyện Đăk Tô nằm trong địa bàn khu 6 mới được thành lập và một phần địa bàn khu 2 (cũ) trước đó, thuộc quyền quản lý của chính quyền cách mạng.
Đến tháng 10/1954, sau khi Hiệp định Genève được ký kết, Đăk Tô tập kết chuyển quân, chính quyền cách mạng giải thể, tổ chức Đảng rút vào hoạt động bí mật. Quốc gia Việt Nam tiếp quản huyện Đăk Tô.
Năm 1955, chính quyền Đệ Nhất Cộng hòa Việt Nam sau khi củng cố quyền lực đã phân cấp hành chính ở tỉnh Kon Tum theo cơ cấu: Toà hành chính tỉnh, dưới tỉnh là quận, rồi đến xã, làng. Từ năm 1955 đến cuối năm 1957 Đăk Tô là một quận lớn trực thuộc Toà hành chính tỉnh Kon Tum. Thời kỳ này Đăk Tô xây dựng thành một trung tâm hậu cứ lớn phòng thủ án ngữ mặt Bắc tỉnh Kon Tum.
Năm 1958, thành lập quận lỵ hành chính Tu Mơ Rông đóng đồn lớn Đăk Hà tại xã Đăk Hà cách Đăk Tô 25 km về phía Đông Bắc. Nhưng đến năm 1965 thì bãi bỏ quận lỵ Tu Mơ Rông. Từ sau năm 1965 phân cấp hành chính của địch ở tỉnh Kon Tum có sự thay đổi. Đối với các khu vực thị xã, thị trấn thì giảm quận mà đặt phái viên hành chính. Về quân sự ở vùng quận lỵ, thì thành lập chi khu, ở các vùng có phái viên hành chính thì thiết lập yếu khu. Theo đó, trên địa bàn Đăk Tô có chi khu Đăk Tô và yếu khu Tu Mơ Rông.
Với Mùa hè đỏ lửa năm 1972, quân ta đã chiếm đóng được Đăk Tô – Tân Cảnh. Về mặt hành chính huyện Đăk Tô được thành lập với tên mật danh là H80, cho mãi đến ngày 17/3/1975 khi quân ta hoàn toàn tiếp thu tỉnh Kon Tum, H80 mới được đổi tên thành huyện Đăk Tô.
Tháng 10/1975, ba tỉnh Pleiku, Phú Bổn và Kon Tum sáp nhập thành tỉnh Gia Lai - Kon Tum, huyện Đăk Tô thuộc tỉnh Gia Lai - Kon Tum. Ban đầu huyện có 18 xã, gồm: Đăk Ang, Đăk Na, Đăk Pxi, Đăk Sao, Đăk Tơ Kan, Đăk Xú, Diên Bình, Kon Đào, Măng Xăng, Mô Rai, Ngọc Lây, Ngọc Tụ, Ngọc Yêu, Pô Kô, Pờ Y, Rơ Kơi, Tân Cảnh, Tu Mơ Rông.
Ngày 10/10/1978, huyện Đăk Tô được chia tách thành 2 huyện Đăk Tô và Sa Thầy theo Quyết định số 254-CP của Hội đồng Chính phủ, khi đó 4 xã Rơ Kơi, Mô Rai, Pờ Y và Đắk Xú được tách ra để thành lập huyện Sa Thầy, huyện Đăk Tô còn lại 14 xã.
Ngày 29/10/1983, chia xã Đăk Tơ Kan thành 2 xã lấy tên là xã Đăk Tơ Kan và xã Văn Lem; chia xã Đăk Pxi thành 2 xã lấy tên là xã Đăk Pxi và xã Đăk Hring; chia xã Tu Mơ Rông thành 2 xã lấy tên là xã Tu Mơ Rông và xã Đăk Hà.
Ngày 30/5/1988, tách các thôn 2, 3, 4 của xã Tân Cảnh để thành lập thị trấn Đăk Tô - là thị trấn huyện lị huyện Đăk Tô.
Ngày 12/8/1991, tỉnh Kon Tum được tái lập, huyện Đăk Tô thuộc tỉnh Kon Tum.
Ngày 15/10/1991, xã Đắk Ang chuyển sang trực thuộc huyện Ngọc Hồi, tỉnh Kon Tum.
Ngày 24/3/1994, 2 xã Đăk Pxi và Đăk Hring chuyển sang trực thuộc huyện Đăk Hà.
Ngày 13/7/2001, chia xã Măng Xăng thành 2 xã Măng Ri và Tê Xăng; thành lập xã Văn Xuôi trên cơ sở 9.130 ha diện tích tự nhiên và 1.967 nhân khẩu của xã Ngọc Yêu.
Cuối năm 2004, huyện Đăk Tô có thị trấn Đăk Tô và 16 xã Đăk Hà, Đăk Na, Đăk Sao, Đăk Tơ Kan, Diên Bình, Kon Đào, Măng Ri, Ngọc Lây, Ngọc Tụ, Ngọc Yêu, Pô Kô, Tân Cảnh, Tê Xăng, Tu Mơ Rông, Văn Lem, Văn Xuôi.
Thực hiện Nghị định số 76/2005/NĐ-CP, ngày 19/6/2005 của Chính phủ về việc thành lập xã thuộc huyện Đăk Tô và thành lập huyện Tu Mơ Rông, tỉnh Kon Tum, địa giới hành chính của huyện Đăk Tô được chia tách, trong đó thành lập xã Đăk Rơ Nga trên cơ sở 11.320 ha diện tích tự nhiên và 2.208 nhân khẩu của xã Ngọc Tụ; thành lập xã Đăk Trăm trên cơ sở 5.277 ha diện tích tự nhiên và 3.036 nhân khẩu của xã Văn Lem; thành lập xã Đăk Rơ Ông trên cơ sở 6.807 ha diện tích tự nhiên và 2.619 nhân khẩu của xã Đăk Tờ Kan; thành lập huyện Tu Mơ Rông trên cơ sở tách 11 xã Đăk Hà, Tu Mơ Rông, Măng Ri, Ngọc Lây, Tê Xăng, Văn Xuôi, Ngọc Yêu, Đăk Tờ Kan, Đăk Rơ Ông, Đăk Na, Đăk Sao thuộc huyện Đắk Tô.
Thực hiện Nghị định số 74/2008/NĐ-CP, ngày 09/6/2008 của Chính phủ về việc điều chỉnh địa giới hành chính xã, thành lập xã thuộc huyện Sa Thầy, huyện Đăk Tô và thị xã Kon Tum, tỉnh Kon Tum, tỉnh Kon Tum đã điều chỉnh 380 ha diện tích tự nhiên của xã Pô Kô thuộc huyện Đăk Tô về xã Hơ Moong, huyện Sa Thầy quản lý; Điều chỉnh 520 ha diện tích tự nhiên, 762 nhân khẩu của xã Pô Kô và 72 ha diện tích tự nhiên, 1.263 nhân khẩu của xã Diên Bình về thị trấn Đăk Tô thuộc huyện Đăk Tô quản lý; Điều chỉnh 1.190 ha diện tích tự nhiên và 654 nhân khẩu của xã Pô Kô về xã Diên Bình thuộc huyện Đăk Tô quản lý.
Hiện nay huyện Đăk Tô có 9 đơn vị hành chính cấp xã gồm thị trấn Đăk Tô và các xã: Đăk Rơ Nga, Đăk Trăm, Diên Bình, Kon Đào, Ngọc Tụ, Pô Kô, Tân Cảnh, Văn Lem. Huyện có tổng diện tích đất tự nhiên là 50.870 ha. Trung tâm huyện lỵ đóng tại thị trấn Đăk Tô.