中国科学院は、中国の行政機関である国務院の一部局である。次図は、中国権力機構における国務院の位置づけを示したものである。
中国は、中国共産党の一党支配の国家であり、中国共産党とその軍隊である人民解放軍が支配体制の根幹となっている。中国共産党が国の基本方針や政策を決定し、それを実施する行政機関として国務院がある。科学技術や高等教育も同様であり、中国共産党が政策を企画立案し、それを国務院の各部局が実施していく体制である。ただし、国務院は行政の最前線にあるため、個別の政策については中国共産党に協力して企画立案していくこともある。
国務院の構成は次図の通りである。
国務院総理は、国務院のトップとして国務院の活動を指導し、行政全般を指揮・監督する。総理は中国共産党中央政治局常務委員から選出されており、2022年現在の総理は党内序列第2位の李克強である。
国務院総理を補佐するために、2022年現在、副総理4名、国務委員5名が置かれている。国務院全般の事務を処理する機関として弁公庁があり、その責任者として秘書長1名が置かれている。秘書長は副総理または国務委員が兼任することになっており、2022年現在は国務委員の1人である肖捷がその任にある。
国務院の機関として、各国の省庁に対応する組成部門（26部門）のほか、直属特設機構（1機構）、直属機構（10機構）、弁事機構（2機構）、直属事業単位（9機構）、部・委員会管理国家局（16機構）がある。
中国科学院は直属事業単位の一つである。科学技術関係の他の直属事業単位として、中国社会科学院や中国工程院があるが、いずれも中国科学院から独立した組織である。