Początki Narodowego Muzeum Morskiego sięgają 1958 roku, w którym to zawiązało się Towarzystwo Przyjaciół Muzeum. Z inicjatywy Towarzystwa i późniejszego Dyrektora Muzeum – dr hab. Przemysława Smolarka, w Dworze Artusa została otwarta wystawa pt. „Od wiosła do napędu atomowego”.
Już w dwa lata po tym wydarzeniu 1 października 1960 roku udało się powołać do życia przy gdańskim Muzeum Pomorskim autonomiczny oddział pod nazwą „Dział Morski”.
1 stycznia 1962 roku wyodrębnił się on i przekształcił w samodzielną instytucję, której główna siedziba znajdowała się w Żurawiu. 1 października 1972 roku Minister Kultury i Sztuki nadał jej rangę i status instytucji narodowej pod nazwą Centralne Muzeum Morskie. Aktualnie Muzeum podlega bezpośrednio Ministerstwu Kultury i Dziedzictwa Narodowego, które je finansuje i nadzoruje.
Muzeum powstało na „surowym korzeniu”, od podstaw. W zamyśle założycieli miało być kompleksem portowo – muzealnym, wkomponowanym w samo serce starego portu gdańskiego, tworzącym zespół typowych obiektów portowych takich jak Żuraw, Spichlerze na Ołowiance, nabrzeża, jednostki pływające.
Jednak 45 lat temu Wyspa Ołowianka straszyła ruinami, tylko Żuraw został odbudowany po zniszczeniach wojennych. Dlatego właśnie tam ulokowano główną siedzibę Muzeum.
Równolegle Muzeum realizowało koncepcję rozwoju instytucji poprzez pozyskiwanie kolejnych obiektów. W czerwcu 1963 roku utworzony został pierwszy oddział – Muzeum Latarnictwa w latarni morskiej w Rozewiu (od 1964 roku w gestii Towarzystwa Przyjaciół Muzeum Morskiego), a w kolejnych latach następne: 1972 r. Muzeum Rybołówstwa w Helu, w 1977 budynek przylegający do Żurawia, w którym po wojnie była kotłownia, noszący nazwę Składu Kolonialnego, w 1984 roku Muzeum Wisły w Tczewie oraz „Dar Pomorza” w Gdyni, jeden z najpiękniejszych żaglowców na świecie.
W 1989 roku udostępniono zwiedzającym sale ekspozycyjne w spichlerzach „Panna”, „Miedź” i „Oliwski” na wyspie Ołowiance, gdzie od 2000 roku po dobudowaniu kolejnych spichlerzy „Mała” i „Duża Dąbrowa” mieści się główna siedziba Narodowego Muzeum Morskiego.
Latem, 1989 roku przy nabrzeżu Ołowianki zacumował jako statek-muzeum s.s. „Sołdek”, pierwszy pełnomorski statek zbudowany w Stoczni Gdańskiej po II wojnie światowej.
W kwietniu 2012 roku, po trzech latach budowy, w miejscu dawnego Składu Kolonialnego został otwarty najnowszy i najnowocześniejszy oddział Muzeum – Ośrodek Kultury Morskiej.
10 grudnia 2013 roku decyzją Ministra Kultury i Dziedzictwa Narodowego Muzeum uzyskało nową nazwę – Narodowe Muzeum Morskie.
Pierwszym dyrektorem a zarazem jednym z pomysłodawców i twórców Narodowego Muzeum Morskiego był dr hab. Przemysław Smolarek, który sprawował swoją funkcję od 1960 r. aż do śmierci w 1991 roku. Kolejnym dyrektorem był doc. dr hab. Andrzej Zbierski, który odszedł na emeryturę w 2001 roku. W 2001 roku dyrektorem ówczesnego Centralnego Muzeum Morskiego został dr inż. Jerzy Litwin, który piastował to stanowisko przez 17 lat. 12 grudnia 2018 roku Minister Kultury i Dziedzictwa Narodowego powołał na stanowisko dyrektora Narodowego Muzeum Morskiego w Gdańsku dra Roberta Domżała.
W Gdańsku zwiedzanie kompleksu muzealno – portowego, znajdującego się po obu stronach rzeki Motławy, ułatwia kursujący z przystani spod Żurawia prom „Motława”.