Nama sekolah ini mengambil nama tempat sekolah didirikan iaitu Kepala Batas. Kepala Batas dikatakan berasal daripada pemberian nama kepada satu kawasan tebing Sungai Kedah yang menjadi sempadan antara daerah Kota Setar dengan Kubang Pasu oleh pengguna-pengguna jalan darat (pejalan kaki, penunggang gajah, kereta lembu dan kereta kerbau) dan sungai (pendayung sampan dan perahu) yang berhenti berehat atau menambat sampan serta perahu mereka.

Sebuah Sekolah Pelajaran Jawi ditubuhkan dan dibangunkan oleh penduduk tempatan pada tahun 1905 atas saranan YTM Tengku Yahaya bin Tengku Zainol Abidin selaku Penguasa Pelajaran pada masa pemerintahan YTM Tengku Abdul Aziz merangkap Raja Muda Kedah. Asalnya sekolah ini dibina di atas tanah kepunyaan Tengku Sulong tetapi kemudiannya dipindahkan ke tapak kilang papan sekarang ini kerana Tengku Sulong tidak suka sekolah dibina di atas tanahnya.

Pada tahun 1911, kerajaan telah mendirikan pula sebuah sekolah di tapak mangunan masjid sekarang. Semasa perang dunia kedua, tentera Jepun telah menggunakan sekolah ini sebagai pusat pasukan tenteranya. Maka sekolah pun berpindah ke tapak yang ada sekarang. Namun selepas British kembali berkuasa pada tahun 1945 sekolah ini ( semasa itu bernama Sekolah Melayu Kepala Batas) berpindah sekali lagi ke Tok Jalai iaitu di bangunan kilang Beras yang berdindingkan pelupuh dan beratapkan nipah.

Pada tahun 1951 berlaku sekali lagi perpindahan iaitu ke tapak yang ada sekarang ini apabila kerajaan mendirikan sebuah bangunan 5 bilik darjah berlantai simen, berdinding papan dan beratap zink setelah pihak kerajaan kesempitan kewangan. Pada tahun 1961 bagunan ini telah digantikan oleh kerajaan dengan bangunan 6 bilik darjah yang berlantaikan simen, berdinding papan dan beratap asbestos iaitu bangunan B sekarang.

Pada tahun 1975, kerajaan pula sebuah bangunan tambahan 10 buah bilik darjah, pejabat, bilik guru besar, bilik penolong kanan dan bilik guru yang lengkap dengan tandas dan stor, iaitu bangunan C sekarang ini. Juga didirikan sebuah kantin dan sebuah rumah guru. Manakala pada tahun 1988 pula bangunan D dengan 4 bilik darjah pula didirikan bagi menampung murid yang kian bertambah.

Pada tahun 2001 dua buah bangunan dua tingkat mengandungi bilik darjah, bilik kemahiran hidup dan bilik seni telah dibina dan siap pada tahun 2003.