1920’de kurulmasını takiben Türkiye Büyük Millet Meclisi (TBMM) hükümetinin, öncelikle aldığı kararlardan biri Kabil’e temsilci göndermek ve Afganistan’da temsilcilik açmak olmuştur. Bu karar çerçevesinde Kabil’e, Afgan asıllı bir Türk subayı olan Abdurrahman Samadan temsilci olarak atanmıştır. Abdurrahman Bey, Ağustos 1920-25 Haziran 1922 tarihleri arasında Kabil’de bulunmuştur.

Daha sonra Medine eski Muhafızı Fahrettin (Türkkan) Paşa, Kabil’e Elçi olarak atanmış ve 26 Haziran 1922-12 Mayıs 1926 tarihleri arasında görev yapmıştır. Fahrettin Paşa’yı takiben Atatürk zamanında Kabil’de, Nebil Bey (Batı) 17 Mayıs 1926-30 Haziran 1928 (Elçi), Yusuf Hikmet Bayur (Atatürk’ün Özel Kalem Müdürü) 30 Haziran 1928-1 Ağustos 1931 ve Mahmut Şevket Esendal 19 Kasım 1933-31 Ekim 1941 tarihleri arasında Büyükelçi olarak görev yapmışlardır.

Kabil Büyükelçiliği’nin Kurulu olduğu arazi, dönemin Afgan Kralı Emanullah Han tarafından armağan edilmiştir. 45.065 m2 genişliğinde bir alana kurulu olan Büyükelçilik Kabil’de açılan ilk diplomatik misyon sıfatını taşımaktadır. Büyükelçiliğin tapusu Türkiye Cumhuriyeti adına 25 Kasım 1945’de düzenlenmiştir.

Büyükelçiliğin bugünkü binaları, 1977’de İhsan Sabri Çağlayangil’in Dışişleri Bakanlığı döneminde inşa ettirilmiştir.