1978年，河南大學(xué)恢復(fù)研究生教育，為了加強對研究生工作的管理，河南大學(xué)在教務(wù)處設(shè)置了研究生科，負責(zé)研究生的招生與管理工作。隨著研究生招生專業(yè)的增多和規(guī)模的不斷擴大，1982年，研究生科調(diào)整至科研處；1985年，研究生處成立，設(shè)立了辦公室、招生科和學(xué)位培養(yǎng)科；1986年河南大學(xué)自籌經(jīng)費建設(shè)了研究生樓，采取了教學(xué)、生活集中管理的模式。

為了加強研究生的思想政治工作，1998年5月，河南大學(xué)黨委決定在研究生處成立黨總支，集中管理全校研究生的思想政治工作。黨總支下設(shè)5個支部，包括1個教工支部，1個博士生支部，3個碩士生支部。從各院系分散管理到研究生處統(tǒng)一管理，這是河南大學(xué)研究生思想政治工作管理體制的一項重大改革。河南大學(xué)的研究生思想政治工作進一步得到加強，為提高研究生的思想政治素質(zhì)發(fā)揮了重要作用。

2005年7月，經(jīng)河南省人民政府批準，河南大學(xué)開始試辦研究生院，設(shè)立了綜合管理辦公室、學(xué)科建設(shè)辦公室、研究生招生辦公室、培養(yǎng)與學(xué)位辦公室、研究生教育與管理辦公室等5個科室；同年成立了校黨委研究生工作部，負責(zé)全校研究生的思想政治教育工作。研究生院的成立使學(xué)位與研究生教育的管理體制實現(xiàn)了重大轉(zhuǎn)變，過去的集中管理模式開始轉(zhuǎn)變?yōu)閷W(xué)校——學(xué)院(部、室、中心)二級管理、以院為主的管理模式，明確了研究生教育與管理工作中的職責(zé)和權(quán)力，賦予了研究生培養(yǎng)單位以更大的管理自主權(quán)。研究生院對全校學(xué)科規(guī)劃與建設(shè)、招生、培養(yǎng)與管理、學(xué)位評定與授予等工作進行宏觀管理，把學(xué)科建設(shè)、研究生招生與培養(yǎng)、研究生思想教育與管理、學(xué)位申請審核等方面的具體工作下放到全校各研究生培養(yǎng)單位。規(guī)模較大的研究生培養(yǎng)單位設(shè)立研究生與科研辦公室，設(shè)置研究生輔導(dǎo)員、教務(wù)員崗位，具體組織本單位研究生的教學(xué)、思想政治教育與管理工作。河南大學(xué)還成立了碩士專業(yè)學(xué)位教育中心，分別掛靠在相關(guān)學(xué)院進行管理，具體負責(zé)各種專業(yè)學(xué)位研究生的培養(yǎng)和管理工作。

2010年2月，根據(jù)工作需要，經(jīng)校黨委常委會議研究，決定成立“211工程”與省部共建辦公室，掛靠研究生院。

2013年5月，河南大學(xué)調(diào)整部分機構(gòu)設(shè)置。調(diào)整后的研究生院（黨委研究生工作部）設(shè)立：學(xué)科建設(shè)辦公室、招生辦公室、培養(yǎng)辦公室、學(xué)位辦公室、教育管理辦公室（以上機構(gòu)為正處級）以及綜合辦公室（副處級）；同時，撤銷了“211工程”與省部共建辦公室。其中，河南大學(xué)建設(shè)辦公室下設(shè)兩個科室：學(xué)科建設(shè)管理科、省部共建與質(zhì)量評估科；研究生招生工作辦公室下設(shè)一個科室：招生管理科；培養(yǎng)辦公室下設(shè)兩個科室：學(xué)術(shù)學(xué)位培養(yǎng)科、專業(yè)學(xué)位培養(yǎng)科；學(xué)位辦公室下設(shè)一個科室：學(xué)位管理科；教育管理辦公室下設(shè)兩個科室：獎助貸管理科、教育管理科；綜合辦公室下設(shè)一個科室：行政管理科。

目前，河南大學(xué)已經(jīng)成為一所擁有哲、經(jīng)濟、法、教育、文、歷史、理、工、農(nóng)、醫(yī)、管理、藝術(shù)等12個學(xué)科門類的綜合性大學(xué)。設(shè)有12個博士學(xué)位授權(quán)一級學(xué)科，42個碩士學(xué)位授權(quán)一級學(xué)科，20種碩士專業(yè)學(xué)位授權(quán)類別；哲學(xué)與公共管理學(xué)院、經(jīng)濟學(xué)院、環(huán)境與規(guī)劃學(xué)院、法學(xué)院、文學(xué)院、教育科學(xué)學(xué)院、體育學(xué)院、外語學(xué)院、新聞與傳播學(xué)院、藝術(shù)學(xué)院、歷史文化學(xué)院、土木建筑學(xué)院、數(shù)學(xué)與統(tǒng)計學(xué)院、計算機與信息工程學(xué)院、物理與電子學(xué)院、化學(xué)化工學(xué)院、生命科學(xué)學(xué)院、醫(yī)學(xué)院、藥學(xué)院、商學(xué)院、天然藥物與免疫工程重點實驗室、特種功能材料重點實驗室、納米材料工程研究中心、馬克思主義學(xué)院、黃河文明與可持續(xù)發(fā)展研究中心、淮河臨床學(xué)院、護理學(xué)院、軟件學(xué)院、東京臨床學(xué)院、國際漢學(xué)院、植物逆境生物學(xué)重點實驗室、黃河文明傳承與現(xiàn)代文明建設(shè)河南省協(xié)同創(chuàng)新中心、納米功能材料及其應(yīng)用河南省協(xié)同創(chuàng)新中心、新型城鎮(zhèn)化與中原經(jīng)濟區(qū)建設(shè)河南省協(xié)同創(chuàng)新中心、作物逆境生物學(xué)河南省協(xié)同創(chuàng)新中心、河南大學(xué)人民醫(yī)院等36個研究生培養(yǎng)單位。全日制在校研究生規(guī)模為7000余人，其中博士生300余人。

在河南大學(xué)黨委、行政的正確領(lǐng)導(dǎo)下，研究生院認真貫徹落實國家有關(guān)學(xué)位與研究生教育的各項方針政策，遵循高等教育發(fā)展規(guī)律，形成了“務(wù)實、求真、奮發(fā)、進取”的工作作風(fēng)。研究生院以國家開展研究生教育綜合改革為契機，圍繞建設(shè)高水平大學(xué)的戰(zhàn)略目標，堅持走內(nèi)涵式發(fā)展道路，把立德樹人作為研究生教育的根本任務(wù)，不斷將河南大學(xué)學(xué)位與研究生教育事業(yè)推向前進。