Sekolah Menengah Kebangsaan Keroh terletak di Kg Keroh, dalam jajahan Kuala Krai. Kedudukannya 12 km ke urata bandar Kuala Krai, jalan Kuala Krai – Kota Bharu. Lokasi ini sangat strategik kerana ia terletak ditengah-tengah sekolah rendah yang menjadi saluran pelajar-pelahar dari Sekolah Kebangsaan Pasir Gajah, Sekolah Kebangsaan Telekong, Sekolah Kebangsaan Kampung Bedal, Sekolah Kebangsaan Kuala Nal dan Sekolah Kebangsaan Pasir Kelang. Kedudukan yang strategik ini memudahkan pelajar-pelajar sekitarnya meneruskan pelajaran ke sekolah menengah. Sebelum ini pelajar-pelajar di sekitar terpaksa disalurkan ke Sekolah Menengah Kuala Krai dan Sekolah Menengah Sri Intan, Machang yang kedudukannya agak jauh dan boleh menimbulkan beberapa kesulitan kepada pelajar dan ibu bapa. Untuk Memenuhi keperluan ini, kawasan ladang getah Pasir Gajah yang teletak di tepi jalan raya Kuala Krai – Machang telah dikenal pasti sebagai tapak yang sesuai untuk menempatkan bangunan sekolah yang bakal menampung pelajar-pelajar sekolah menengah di sekitar kawasan ini. Dengan menggunakan peruntukan kewangan daripada Bank Dunia kepada Kementerian Pendidikan Malaysia, pembinaan sekolah Menengah Kebangsaan Keroh dimulakan diatas tapak seluas kira-kira 16 ekar. Nama Sekolah Menengah Kebangsaan Keroh adalah diambil sempena nama kampung Keroh. Pada peringkat awal, nama sekolah ini dikenali dengan nama Sekolah Menengah Kebangsaan Kampung Keroh, walau bagaimanapun untuk meringkaskan sebutan perkataan “kampung” digugurkan dan ianya dikenali dengan nama Sekolah Menengah Kebangsaan Keroh. Sekolah Menengah Kebangsaan Keroh mula dibuka pada 1 Januari 1983. Sehinggan kini sekolah ini masih mengekalkan nama Sekolah Menengah Kebangsaan Keroh. Bangunan asal sekolah ini terdiri daripada 3 blok bangunan 2 tingkat yang mengandungi 11 bilik darjah. 1 bilik guru, 3 makmal sains, 1 bengkel sains rumah tangga, 2 tandas murid, 2 tandas guru, 1 pejabat, 1 perpustakaan dan 1 bilik jahitan (Blok A,B, dan C). Blok kedua adalah blok bengkel kemahiran hidup dan ketiga adalah blok kantin. Pada peringkat ini juga dibina sebuah rumah pengetua dan sebuah rumah penolong kanan. RM 30,000. pada tahun 1992, musalla ini diperbesarkan dan mampu menampung sehingga 700 orang jemaah dengan kos sebangak RM 9000. Sekolah ini seharusnya berkembang dari semasa ke semasa. Selepas itu 2 blok bangunan 3 tingkat berhampiran blok kantin dibina untuk menampung pertambahan pelajar yang meningkat dari tahun ke tahun. Pada tahun 2003, sebuah makmal komputer telah dibina yang menempatkan 40 buah komputer bagi memenuhi keperluan perbelanjaan berasasakan komputer. Makmal ini mula beroperasi pada pertengahan 2004 .
