中国科学院の本部は、北京市西城区三里河路52号であり、故宮や天安門広場の西側に位置する。
中国科学院本部の組織を示したのが下図である。全体で約7万名に達する人員を擁する中国科学院であるが、本部の人員は約500名と比較的スリムな組織となっている。
本部機構は、科学研究部門と統合事務部門に大別される。
科学研究部門には、先端科学・教育局（前沿科学与教育局）、重要科学技術局（重大科技任务局）、科学技術促進・発展局（科技促进发展局）の3局がある。先端科学・教育局は最前線の科学研究の促進とそれを支える人材育成のための教育を、重要科学技術局は情報・海洋・材料・エネルギー等の重要分野のビッグプロジェクトの計画立案や所要の施設整備を、科学技術促進・発展局はビッグプロジェクト以外の科学技術振興や知的財産管理などを、それぞれ所掌している。
一方、統合事務部門には、弁公庁など9の部局がある。このうちどの国のどの組織にも必要な本部機能として、弁公庁（办公厅）、発展計画局（发展规划局）、施設建設・財務局（条件保障与财务局）、人事局の4局がある。弁公庁は文書管理や幹部の秘書業務などを、発展計画局は将来計画や改革構想などの企画立案を、施設建設・財務局は、重要な施設の建設、予算、財産管理、投資業務などを、人事局は人事管理、組織管理、博士号業務などを、それぞれ担当している。
学部事務局（学部工作局）は、中国科学院院士が所属する学部（Academic Divisions）に関係する事務を担当している。
横断的な組織として、国際協力局（国际合作局）は米国、欧州、大洋州、アジア、アフリカなどの科学技術機関との協力の調整を、科学情報局（科学传播局）は情報発信や情報管理を、監督・監察局（监督与审计局）は内部統制・監査を、離退休職幹部業務局（离退休干部工作局）は同院OBなどの処遇を、それぞれ担当している。
以上の組織とは別に、中国共産党の指導監督を行う組織として、直属機関党委員会（直属机关党委）と、中央規律検査委員会駐中国科学院規律検査監察組（中央纪委国家监委驻中国科学院纪检监察组）が置かれている。