Sekolah ini ditubuhkan pada tahun 1963 dan dikenali dengan nama “Government Junior Secondary School, Papar”. Di awal penubuhannya, sekolah ini telah meminjam Bilik Sains Rumah Tangga, Sekolah Rendah Kebangsaan Pekan Papar dengan 45 orang murid yang belajar di Bridge 1 serta 2 orang tenaga pengajar. Pengetua pertama yang berkhidmat ialah En. John Ganai.

Pada tahun 1964, akibat dari pertambahan bilangan murid, sekolah telah meminjam Sekolah Cheng Hwa, pada ketika itu sekolah terdiri daripada Bridge 1 dan Bridge 2 dengan 5 orang guru di bawah pentadbiran Puan Ausan sebelum diganti dengan Pengetua baru iaitu En. Lim Hsing Hui.

Pada tahun-tahun berikutnya, bilangan murid semakin bertambah dan ini telah memaksa pihak sekolah untuk meminjam bilik di Sekolah Menengah St. Joseph untuk menampung murid-murid Bridge 1, Bridge 2, Secondary 1 dan Secondary 2.

Pada tahun 1966, bangunan sekolah yang baru telah siap dibina dan telah dirasmikan oleh Tun Datu Mustapha Bin Datu Harun (Ketua Menteri Sabah pada ketika itu). Pada masa itu, sekolah terdiri daripada 4 blok utama dan sebuah dewan. Blok pertama menempatkan Bilik Pengetua, Bilik Guru, Bilik Sains Rumah Tangga dan asrama murid perempuan. Blok kedua dijadikan Bangunan Perpustakaan manakala blok ke-3 dan ke-4 menempatkan bilik-bilik darjah yang dibahagian atasnya dijadikan asrama murid lelaki. Walaubagaimanapun jumlah bilik darjah yang sedia ada masih tidak dapat menampung pertambahan bilangan murid. Oleh itu sekolah masih meminjam beberapa bilik darjah di Sekolah Cheng Hwa dan Sekolah Menengah St. Joseph. Pada tahun 1966 juga merupakan tahun pertama sekolah ini mengikuti Peperiksaan Sabah Junior Certificate.

Tanggal 1 Ogos 1975, nama sekolah telah ditukar kepada Sekolah Menengah Kebangsaan Majakir sempena nama Ketua Daerah Papar iaitu OKK Mat Zakir Bin Awang.

Pada tahun 1987, sebuah dewan baru yang diberi nama Dewan Jubli Perak sempena 25 tahun penubuhannya telah siap dibina. Dewan berkapasiti 2000 orang ini telah dirasmikan oleh Dato’ Seri Anwar Ibrahim, selaku Menteri Pelajaran Malaysia pada ketika itu.