解析：
国家建立突发事件的信息发布制度规定，负责向社会发布突发公共卫生事件信息的法定单位是，国务院卫生计生行政部门（C对）。国务院卫生行政部门负责向社会发布突发事件的信息，必要时可以授权省、自治区、直辖市人民政府卫生行政部门向社会发布本行政区域内突发事件的信息，所以县级人民政府（A错）、省级人民政府（B错）、国务院新闻办公室（D错）、设区的市级人民政府（E错）在某些情况下可发布信息，但并不是法定单位。