《安全生产许可证条例》确定国务院与省、自治区、直辖市两级人民政府的负有安全生产监督管理职责的部门和建设主管部门为安全生产许可证的发证机关,故B项正确;
依据《安全生产许可证条例》第5条的规定,省、自治区、直辖市人民政府民用爆炸物品行业主管部门负责民用爆炸物品生产企业安全生产许可证的颁发和管理,并接受国务院民用爆炸物品行业主管部门的指导和监督,故D项错误。