Perpustakaan Umum Kabupaten Langkat pada tahun 2000 yang dahulunya terbentuk disalah satu Sub Bagian di bagian Organisasi Tata Laksana Setdakab. Langkat ( ORTA ). Berdasarkan Perda Nomor 22 Tahun 2000 tanggal 22 Desember 2000 terbentuk Kantor Perpustakaan Umum Kabupaten Langkat yang terletak di Jalan T. Amir Hamzah No. 1 Stabat.
Pada tahun 2001 Kantor Perpustakaan Umum dan Kearsipan Kabupaten Langkat pindah di gedung eks Dinas Perhubungan Kabupaten Langkat yang beralamat di Jalan T. Putra Aziz No. 3 Stabat sampai dengan tahun 2005
Kemudian pada tahun 2006 Kantor Perpustakaan dan Kearsipan kembali menjadi Bagian. yang namanya menjadi Bagian Perpustakaan dan Kearsipan yang pada waktu itu Kantor bergabung dengan Sekretariat yang beralamat di jalan T. Amir Hamzah No. 1 Stabat.
Pada tahun 2008 Kantor Perpustakaan, Arsip dan Dokumentasi berganti dari Bagian menjadi Kantor dan berpindah alamat ke Gedung eks Dinas Perhubungan Kabupaten Langkat yang beralamat dijalan T. Putra Aziz No. 3 Stabat dan berjalan sampai saat ini.
Pada tahun 2017, berdasarkan Peraturan Daerah Nomor 6 Tahun 2016 Tentang Pembentukan Perangkat Daerah Kabupaten Langkat, maka Kantor Perpustakaan, Arsip dan Dokumentasi Kabupaten Langkat berubah menjadi Dinas Kearsipan dan Perpustakaan Kabupaten Langkat yang mana Dinas Kearsipan dan Perpustakaan Kabupaten Langkat adalah merupakan Tipe B, yang menyelenggarakan urusan Pemerintah dibidang Kearsipan dan Perpustakaan.
Adapun nama – nama pimpinan dari Tahun 2000 – 2017, sebagai berikut :
| No | TAHUN | NAMA KEPALA KANTOR/DINAS | KETERANGAN |
| 1 | 2000 – 2001 | RUSWIN, SH | Kepala Sub Bagian Perpustakaan,Arsip dan Dokumentasi |
| 2 | 2001 – 2002 | Dra. H. HASNUL MUHIDDIN | Kepala Kantor Perpustakaan,Arsip dan Dokumentasi |
| 3 | 2002 | BADIUZZAMAN,S.Sos | Plt.Kepala Kantor Perpustakaan,Arsip dan Dokumentasi |
| 4 | 2003 – 2005 | T. CHAIRI BAKRI, SH | Kepala Kantor Perpustakaan,Arsip dan Dokumentasi |
| 5 | 2005 –2008 | BADIUZZAMAN,S.Sos | Kepala Bagian Perpustakaan,Arsip dan Dokumentasi |
| 6 | 2008 – 2010 | BADIUZZAMAN,S.Sos | Kepala Kantor Perpustakaan, Arsip dan Dokumentasi |
| 7 | 2010 – 2014 | Hj. PURNAMA DEWI TARIGAN, S.Sos | Kepala Kantor Perpustakaan, Arsip dan Dokumentasi |
| 8 | 2014 – 2016 | Hj. SRI RAHMAWATI, S.Sos | Kepala Kantor Perpustakaan, Arsip dan Dokumentasi |
| 9 | 2016 | ARINDO RUSLAN, AP, M.AP | Kepala Kantor Perpustakaan, Arsip dan Dokumentasi |
| 10 | 2017 – 2020 | Ir. H. M. TAMBENG | Kepala Dinas Kearsipan dan Perpustakaan |
| 11 | 2020 – Sekarang | Drs. RUDI KINANDUNG, M.AP | Plt. Kepala Dinas Kearsipan dan Perpustakaan |