哈爾濱工程大學(xué)研究生教育的歷史可以追溯到哈軍工時期。1955年3月，哈軍工黨委做出了培養(yǎng)研究生的決定，當(dāng)年招收3名海軍工程系研究生，開創(chuàng)了哈爾濱工程大學(xué)研究生教育歷史的新紀(jì)元。

1966年，哈爾濱工程大學(xué)停止招收研究生。1978年哈爾濱工程大學(xué)被確定為全國重點(diǎn)大學(xué)，同年恢復(fù)研究生招生，并在艦艇結(jié)構(gòu)力學(xué)等學(xué)科首批招收8名碩士研究生，成為文革后第一批開展研究生教育的大學(xué)之一。1981年，哈爾濱工程大學(xué)被國務(wù)院批準(zhǔn)為首批博士、碩士學(xué)位授權(quán)單位，船舶流體力學(xué)、水聲工程2個學(xué)科獲得首批博士學(xué)位授予權(quán)。1997年，哈爾濱工程大學(xué)開始招收全國第一批工程碩士研究生。當(dāng)年，哈爾濱工程大學(xué)研究生總數(shù)達(dá)1759人，研究生導(dǎo)師257人。2002年，教育部批準(zhǔn)哈爾濱工程大學(xué)設(shè)立研究生院，成為全國56所設(shè)有研究生院的高校之一，哈爾濱工程大學(xué)進(jìn)入國家研究生培養(yǎng)主力軍行列。2007年獲準(zhǔn)建立研究生院。2009年，哈爾濱工程大學(xué)通過工信部“研究生教育優(yōu)秀工程”專家組現(xiàn)場評估驗(yàn)收并獲優(yōu)秀評價(jià)。目前，研究生院下設(shè)院辦、招生辦、培養(yǎng)辦、學(xué)位辦、學(xué)術(shù)辦5個科室。副校長吳林志兼任研究生院院長。

目前，哈爾濱工程大學(xué)有國家級重點(diǎn)學(xué)科2個，博士學(xué)位授予權(quán)一級學(xué)科12個，一級學(xué)科碩士點(diǎn)29個；國家重點(diǎn)學(xué)科一級1個、二級1個，國防特色學(xué)科11個，黑龍江省重點(diǎn)學(xué)科群1個。在學(xué)科門類和招生類型上，哈爾濱工程大學(xué)可在經(jīng)濟(jì)學(xué)、法學(xué)、教育學(xué)、文學(xué)、理學(xué)、工學(xué)、管理學(xué)、藝術(shù)學(xué)等8個門類招收碩士研究生，在工學(xué)、法學(xué)、管理學(xué)等3個學(xué)科門類招收博士研究生，并可招收工程碩士、工商管理碩士（含EMBA）、公共管理碩士、金融碩士、翻譯碩士、社會工作等6種專業(yè)學(xué)位碩士研究生，形成了支撐哈爾濱工程大學(xué)高層次創(chuàng)新人才培養(yǎng)的學(xué)位授權(quán)體系。

截至2016年12月，哈爾濱工程大學(xué)各類在校研究生總數(shù)為8123人，其中博士生1775人，碩士生5812人，留學(xué)研究生300人。

如今，哈爾濱工程大學(xué)的博士生導(dǎo)師從首批批準(zhǔn)的2人已經(jīng)發(fā)展到今天的477人，形成了一支以兩院院士、長江學(xué)者等國內(nèi)外知名專家為引領(lǐng)，全國優(yōu)秀教師，教育部跨世紀(jì)優(yōu)秀人才等學(xué)科帶頭人為中堅(jiān)的研究生導(dǎo)師隊(duì)伍。高水平的導(dǎo)師團(tuán)隊(duì)帶動了重點(diǎn)實(shí)驗(yàn)室和研究生實(shí)踐基地的建設(shè)。目前哈爾濱工程大學(xué)有國家級重點(diǎn)實(shí)驗(yàn)室2個，教育部重點(diǎn)實(shí)驗(yàn)室及工程研究中心5個，國防重點(diǎn)學(xué)科實(shí)驗(yàn)室2個，省重點(diǎn)實(shí)驗(yàn)室及工程研究中心5個，省發(fā)改委工程實(shí)驗(yàn)室3個。哈爾濱工程大學(xué)與中船重工703研究所、中國電子科技集團(tuán)第49研究所等單位聯(lián)合建立了6個省級研究生培養(yǎng)創(chuàng)新示范基地，與國內(nèi)眾多大中型企業(yè)建立了產(chǎn)學(xué)研聯(lián)合培養(yǎng)研究基地，為研究生開展社會實(shí)踐實(shí)習(xí)搭建了良好的創(chuàng)新能力培養(yǎng)平臺。我校與中國船舶重工集團(tuán)公司第703研究所聯(lián)合培養(yǎng)研究生實(shí)踐基地獲評“全國示范性工程專業(yè)學(xué)位研究生聯(lián)合培養(yǎng)基地”。作為行業(yè)特色型高校，2011年，哈爾濱工程大學(xué)入選首批“全國工程碩士研究生教育創(chuàng)新院?！?，成為全國50所創(chuàng)新院校之一，同時船舶與海洋工程、控制工程、核能與核技術(shù)3個工程領(lǐng)域入選“全國工程碩士研究生教育特色工程領(lǐng)域”。

哈爾濱工程大學(xué)成為國家留學(xué)基金委“建設(shè)高水平大學(xué)公派研究生項(xiàng)目簽約高?！?，比利時布魯塞爾自由大學(xué)聯(lián)合培養(yǎng)博士生項(xiàng)目、俄羅斯遠(yuǎn)東聯(lián)邦大學(xué)聯(lián)合培養(yǎng)研究生項(xiàng)目、船舶與海洋工程人才培養(yǎng)項(xiàng)目入選“國家創(chuàng)新型人才國際合作培養(yǎng)項(xiàng)目”?！峨S機(jī)過程》《聲學(xué)測量》《核反應(yīng)堆工程》《現(xiàn)代設(shè)計(jì)方法》入選教育部“來華留學(xué)英語授課品牌課程”。2門課程入選全國工程專業(yè)學(xué)位教指委研究生教育在線課程重大建設(shè)項(xiàng)目。

近年來，哈爾濱工程大學(xué)堅(jiān)持“三海一核”特色辦學(xué)方略，全面推進(jìn)“創(chuàng)新推動，打造品牌”的人才培養(yǎng)戰(zhàn)略，研究生教育取得了明顯進(jìn)步和發(fā)展，辦學(xué)規(guī)模不斷擴(kuò)大，為國家和社會培養(yǎng)了多門類高層次專門人才。從2003年至今，哈爾濱工程大學(xué)共培養(yǎng)碩士、博士以及各類專業(yè)學(xué)位碩士3萬余名，研究生畢業(yè)生就業(yè)率連續(xù)多年保持在95%以上，每年海軍、船舶、核工業(yè)系統(tǒng)等幾百家用人單位專程到我校招聘畢業(yè)生，使我校畢業(yè)生在激烈的就業(yè)競爭中具備了特色的優(yōu)勢和競爭力。

哈爾濱工程大學(xué)研究生教育始終堅(jiān)持以“提高質(zhì)量”為核心，全面落實(shí)哈爾濱工程大學(xué)綜合改革，以“十三五”規(guī)劃為指導(dǎo)，不斷深化研究生培養(yǎng)機(jī)制改革，全面提高研究生培養(yǎng)質(zhì)量。

自研究生院成立的10余年來，哈爾濱工程大學(xué)步入了研究生學(xué)位教育速度、規(guī)模到質(zhì)量大幅提升的跨越期。全校對“研究生教育對哈爾濱工程大學(xué)創(chuàng)建高水平研究型大學(xué)具有重要的先導(dǎo)性、全局性和戰(zhàn)略性地位，是哈爾濱工程大學(xué)事業(yè)發(fā)展最核心、最重要的組成部分之一”達(dá)成共識，形成了通力為研究生教育服務(wù)的氛圍，促進(jìn)了研究生教育水平不斷提升，為哈爾濱工程大學(xué)創(chuàng)建特色鮮明的高水平研究型大學(xué)注入了強(qiáng)勁的發(fā)展動力，我們相信，隨著哈爾濱工程大學(xué)綜合改革的推進(jìn)，哈爾濱工程大學(xué)將會為我國建設(shè)海洋強(qiáng)國培養(yǎng)更多可靠頂用的人才。