Halilović je rođen u Prijepolju u Sandžaku. Osnovnu i srednju školu završio je u rodnom gradu, nakon čega je obrazovanje nastavio na vojnoj akademiji kopnene vojske i Fakultetu političkih znanosti u Beogradu i vojnoj akademiji u Zadru. Na vojnoj akademiji diplomirao je 1975. U JNA služio je u Mostaru, Vinkovcima i Đakovu.
Vojnu akademiju je završio 1975, a 1990. dvogodišnju školu za komandni kadar. JNA napušta 1991. u činu majora bijegom iz Komandno-štabne škole u Beogradu. Resor državne bezbednosti Srbije za njih raspisuje potjernicu i izdaje nalog za njegovo hapšenje. Kao član Patriotske Lige RBiH bio je autor “Direktive za odbranu suvereniteta i teritorijalnog integriteta RBiH” u kojoj je dao smjernice za odbranu RBiH od agresije sa istoka, ali i sa zapada kako je tada procijenio Halilović što se i obistinilo napadom HVO-a i HV na nezavisnu Republiku BiH. Sefer Halilović autor je koncepta odbrane Sarajeva od agresora koji je na sastanku decembra 1991. u Hrasnici odobrio Alija Izetbegović i po tom Halilovićevom konceptu urađena je šema odbrane Republike BiH od agresije. Isto tako, Sefer Halilović autor je inicijative da se JNA i sve njihove kasarne napadnu u BiH u isto vrijeme, da se u isto vrijeme sruše svi mostovi i tuneli prema Srbiji i da se sa srbijanskim vojnim i paramiliternim jedinicama onemogući da vojno interveniše i napadne nezavisnu Republiku BiH. Taj plan, međutim, po naredbi Alije Izetbegovića nije proveden. Sefer Halilović bio je prvi šef Armije RBiH koju je uredio kao vojnu silu od preko 220.000 vojnika, 5 korpusa, nekoliko operativnih grupa i desetinama brigada, bataljona i specijalnih jedinica. Struktura ARBiH se do kraja rata nije bitno mjenjala. Sefer Halilović je obavljao i funkciju člana Ratnog predsjedništva RBiH do 8.6.1993.
Osnivač je i predsjednik Bosanskohercegovačke patriotske stranke (BPS). Obavljao je funkciju Ministra za izbjeglice i raseljena lica u Vladi FBiH. Bio je i zastupnik u Parlamentu BiH od 2006-10. godine
Na Općim izborima u Bosni i Hercegovini 2014. godine kandidat je BPS za člana Predsjedništva Bosne i Hercegovine iz reda bošnjačkog naroda.
Suđenje