نشأت فكرة إنشاء المجلس خلال المؤتمر الأول لوزراء الداخلية العرب الذي عُقد بالقاهرة عام 1977م، وتقرّر إنشاؤه في المؤتمر الثالث الذي عُقد بمدينة الطائف عام 1980م. وقد صدّق المؤتمر الاستثنائي لوزراء الداخلية العرب الذي عُقد بالرياض عام 1982م، على النظام الأساسي للمجلس، والذي تم عرضه على مجلس جامعة الدول العربية في شهر سبتمبر 1982م، حيث تم إقراره.
وقد عقد مجلس وزراء الداخلية العرب (41) دورة حتى الآن، كان أولها في الدار البيضاء بالمملكة المغربية في شهر ديسمبر عام 1982م، وآخرها بتونس في شهر مارس عام 2024م.