国家心理咨询师证发放单位主要由以下几个部门负责：

1、中国心理卫生协会(CPA):中国心理卫生协会是全国性的专业性学术团体，其主要职责是制定和推广心理健康领域的行业标准、规范和政策，组织开展心理健康领域的学术交流、科研活动和人才培养，作为国家心理咨询师证的发放单位之一，中国心理卫生协会对考试合格者颁发心理咨询师证书。

2、各省、自治区、直辖市心理咨询师职业鉴定中心：各省、自治区、直辖市心理咨询师职业鉴定中心是各地人力资源和社会保障局下设的专门机构，负责本地区的心理咨询师职业鉴定工作，这些中心会对参加考试并符合条件的考生进行审核，发放心理咨询师证书。

3、各大高校心理咨询中心：许多高校都设有心理咨询中心，为在校学生提供心理咨询服务，这些中心的部分老师会参与国家心理咨询师考试的培训和辅导工作，同时也会为本校通过考试的学生颁发心理咨询师证书。

4、社会心理咨询机构：社会心理咨询机构是指在民政部门登记注册的、具有独立法人资格的专业从事心理咨询服务的非营利性组织，这些机构的心理咨询师需要参加国家心理咨询师考试并取得资格证书，才能为来访者提供专业的心理咨询服务，社会心理咨询机构也可以向考生颁发心理咨询师证书。

5、其他相关部门：除了上述部门外，还有一些其他相关部门也会参与国家心理咨询师证书的发放工作，卫生健康委员会、公安部门等，这些部门会在各自的职责范围内，对从事心理咨询工作的人员进行管理和监督，确保心理咨询行业的健康发展。

国家心理咨询师证发放单位主要包括中国心理卫生协会、各省、自治区、直辖市心理咨询师职业鉴定中心、各大高校心理咨询中心、社会心理咨询机构以及其他相关部门，这些部门共同协作，确保心理咨询师证书的权威性和有效性，为广大需要心理咨询服务的人们提供专业、可靠的帮助。