解析：
A项符合题意：我国《慈善法》第二章第十条规定：“设立慈善组织，应当向县级以上人民政府民政部门申请登记，民政部门应当自受理申请之日起三十日内作出决定。符合本法规定条件的，准予登记并向社会公告；不符合本法规定条件的，不予登记并书面说明理由。”因此慈善组织的设立不用向工商行政管理部门申请登记，当选；
B、C、D项说法均符合我国《慈善法》的规定，排除。
本题为选非题，故正确答案为A。