Ia lahir pada tanggal 25 Juli 1927 di Desa Pangenjuru, Purworejo dari Pasangan Raden Kartowilogo dan Raden Ayu Sutini berasal dari keluarga PNS bekerja untuk Pemerintah Kolonial Belanda. dan kemudian diberi nama Edhie. Namun karena sering sakit sakitan sesuai dengan adat Jawa, nama Edhie pundi ditambah Dengan Sarwo. Dan akhirnya namanya menjadi Sarwo Edhie, bahkan setelah menikah namanya menjadi Sarwo Edhie Wibowo. Sesuai pesan ayahnya, dengan harapan kelak ia memiliki kewibawaan. Meski berdarah bangsawan. Edhie tak segan-segan mengikuti permainan anak desa. Orangtuanya tidak pernah mengajarkan perbedaan kedudukan dengan orang lain. Sebagai seorang anak, ia belajar silat sebagai bentuk pertahanan diri. Saat ia tumbuh, Sarwo Edhie membentuk kekaguman terhadap Tentara Jepang dan kemenangan mereka melawan Pasukan Sekutu yang ditempatkan di Pasifik dan Asia.
Pada tahun 1942, ketika Jepang menguasai Indonesia, Sarwo Edhie pergi ke Surabaya untuk mendaftarkan diri sebagai prajurit Pembela Tanah Air (PETA), yang merupakan kekuatan tambahan Jepang yang terdiri dari tentara Indonesia. Sarwo Edhie kecewa karena tugas-tugasnya selama periode ini sebagian besar hanya memotong rumput, membersihkan toilet, dan membuat tempat tidur bagi perwira Jepang. Ketika dia berlatih, Sarwo Edhie harus menggunakan senjata kayu. Setelah Proklamasi Kemerdekaan Indonesia pada tanggal 17 Agustus 1945, Sarwo Edhie bergabung dengan BKR, sebuah organisasi milisi yang akan menjadi cikal bakal ABRI (Tentara Nasional Indonesia saat ini) dan membentuk batalion. Namun, usaha itu gagal dan batalion bubar. Teman satu kampung halamannya, Ahmad Yani yang mendorongnya untuk terus menjadi seorang tentara dan mengundangnya untuk bergabung dengan Batalion di Magelang, Jawa Tengah.
Sarwo Edhie menikah dengan Sunarti Sri Hadiyah binti Danu Sunarto, mereka mempunyai 7 anak: Wijiasih Cahyasasi, Wrahasti Cendrawasih, Kristiani Herrawati, Mastuti Rahayu, Pramono Edhie Wibowo, Retno Cahyaningtyas dan Hartanto Edhie Wibowo. Susilo Bambang Yudhoyono, Presiden keenam Republik Indonesia, adalah menantunya yang menikah dengan Kristiani Herrawati. Sarwo Edhie meninggal pada 9 November 1989 pada usia 64 tahun karena penyebab alami. Ia dimakamkan di daerah asalnya di tempat pemakaman keluarga Purworejo tepatnya di Kampung Ngupasan, Kelurahan Pangenjurutengah, Purworejo, Jawa Tengah.