Skim Rukun Tetangga telah diperkenalkan pada tahun 1975 berikutan dengan berkuatkuasanya Peraturan-Peraturan Perlu (Rukun Tetangga) 1975 di bawah Ordinan Darurat 1969. Skim ini telah dilancarkan oleh Tun Abdul Razak, Perdana Menteri pada 29 Ogos 1975 dalam Sektor Rukun Tetangga Kampung Kasipillay, Kuala Lumpur.
Pada peringkat awalnya, Skim Rukun Tetangga ini berfungsi bagi mengawal keselamatan kawasan kediaman. Skim ini merupakan suatu langkah yang membolehkan rakyat sendiri mengawal dan menjaga keselamatan kawasan kediaman mereka berikutan dengan beberapa kejadian yang mengancam keselamatan negara pada waktu itu. Dengan itu, tumpuan telah diberi kepada tugas rondaan yang diwajibkan kepada penduduk yang berumur di antara 18 hingga 55 tahun yang menetap dalam kawasan Sektor Rukun Tetangga.
Mulai 1 Januari 1983, kerajaan telah menyusun semula Skim Rukun Tetangga berkonsepkan semangat kejiranan untuk memperkukuhkan perpaduan di kalangan komuniti setempat. Pelaksanaan skim ini dibuat mengikut 3 kategori iaitu Kawasan Rukun Tetangga, Sektor Pendaftaran, Sektor Keselamatan dan undang-undang berkaitan Peraturan-Peraturan Perlu (Rukun Tetangga) 1975 telah pun dipinda bagi tujuan tersebut. Skim ini telah diperluaskan ke negeri Sabah 1985 dan ke negeri Sarawak pada tahun 1988.
Pada tahun 2001, Kerajaan telah memperkenalkan konsep pembangunan komuniti kepada Rukun Tetangga. Konsep ini bertujuan memperkasakan komuniti untuk berhadapan dengan cabaran dan perubahan gaya hidup semasa. Seiring dengan perubahan semasa, Model Transformasi Rukun Tetangga telah diperkenalkan pada tahun 2010. Model ini berpaksikan kepada lima (5) teras utama iaitu perpaduan, ekonomi, keselamatan, pendidikan dan kualiti hidup melalui pelaksanaan program dan aktiviti Rukun Tetangga.
Berdasarkan keperluan semasa, Ordinan Darurat telah dimansuhkan pada tahun 2011. Satu undang-undang telah digubal dan dinamakan Akta Rukun Tetangga 2012 (Akta 751) berkuatkuasa pada 22 Jun 2012. Akta ini memperuntukkan kuasa kepada Jawatankuasa Kawasan Rukun Tetangga sebagai peneraju keharmonian, keselamatan dan perkhidmatan kepada komuniti.
