Pada tahun 1861, unit sukarela Tentera Darat negeri-negeri Selat telah ditubuhkan di Pulau Pinang dengan nama Penang Volunteers. Unit sama juga telah ditubuhkan di Singapura dengan nama Singapore Volunteers. Pada tahun 1902, Negeri-negeri Melayu Bersekutu yang terdiri daripada Perak, Negeri Sembilan, Selangor dan Pahang telah mula menubuhkan unit sukarelanya sendiri yang dikenali sebagai Malay State Volunteer Rifles. Pasukan sukarela ini kemudian terus berkembang dengan penubuhan beberapa pasukan baru seperti di Negeri-negeri Melayu Bersekutu yang dipanggil Federated Malay States Volunteer Force. Pasukan Sukarela di Negeri Melayu Tidak Bersekutu pula dipanggil Unfederated Malay States Volunteer Force dan di Negeri-Negeri Selat pula ialah The Straits Settlement Volunteer Force.

Pasukan-pasukan Sukarela telah memainkan peranan yang begitu penting terutamanya semasa dalam Peperangan Dunia Kedua, Darurat 1948-1960 dan Konfrontasi 1964. Setelah tercetusnya Perang Dunia Kedua, kesemua unit-unit sukarela ini telah diaturgerak dan berganding bahu bersama-sama pasukan tentera tetap dari Britain, India dan Australia untuk mempertahankan Tanah Melayu dan Singapura.

Selepas Perang Dunia Kedua tamat, pasukan-pasukan sukarela yang telah wujud sebelum ini telah diaktifkan semula. Semasa berlakunya Darurat Tanah Melayu pada tahun 1948, satu pasukan sukarela iaitu Pasukan Kawalan Kampung (Home Guard) telah ditubuhkan. Pasukan Kawalan Kampung ini telah memainkan peranan yang penting sepanjang tempoh darurat tersebut.

Pasukan Kawalan Kampung (Home Guard) ini telah dibubarkan pada tahun 1958 setelah keadaan keselamatan telah berjaya dikawal dan dipulihkan. Bagaimanapun, memandangkan ramai bekas anggota Pasukan Kawalan Kampung mahu terus menyumbang khidmat sukarela, Kerajaan Persekutuan Tanah Melayu telah mengambil keputusan untuk menyusun semula pasukan sukarela supaya ia lebih tersusun dan berkesan. Oleh itu, Ordinan Tentera Darat Simpanan telah digubal pada 1958. Dengan kuasa ordinan ini, sebuah pasukan sukarela yang baru yang dikenali dengan nama Askar Wataniah telah ditubuhkan secara rasmi pada 1 Jun 1958.