Gemilerin tarihsel geçmişi ve gelişimi tarih öncesi dönemlere kadar uzanmaktadır. Nehirleri ve gölleri geçmek için ilk insanlar, en eski kanolar olan basit şamandıralar yapmak için ağaç gövdeleri veya bambu kullanmaya başladılar. Zamanla insanlar, sal yapmak için hayvan derileri ve ahşap kullanmak gibi daha karmaşık gemi inşa tekniklerinde yavaş yavaş ustalaştı. Bu ilkel gemiler basit olmalarına rağmen daha sonraki gemi gelişiminin temelini attılar.
Antik çağlara girerken her uygarlık kendi gemi inşa teknolojisini geliştirdi. Eski Mısırlılar, Nil Nehri üzerinde ulaşım sağlamak için sazlardan yapılmış yelkenli gemiler inşa ettiler; eski Yunanlılar, Akdeniz'de yaygın olarak kullanılan ve o dönemde deniz hegemonyası için önemli bir araç haline gelen ünlü üç-direkli savaş gemilerini yarattılar; Çin'de inşaat gemisi İlkbahar ve Sonbahar Dönemi ile Savaşan Devletler Dönemi'nde ortaya çıktı. Bu, çoğunlukla askeri amaçlarla kullanılan, birden fazla güverteye sahip büyük bir gemidir.
Orta Çağ, navigasyon teknolojisinin ve gemi tasarımının hızlı bir şekilde geliştiği bir dönemdi. Pusulanın kullanılmaya başlanması ve deniz haritalarının çizilmesiyle Avrupalı denizciler okyanusları keşfetmeye başladı. Bu dönemin temsili gemileri arasında karaveller ve kalyonlar bulunmaktadır. Caravel, okyanus yolculuklarına uygun küçük, hafif ve hızlı bir gemidir; kalyon ise güçlü savunma yeteneklerine sahip büyük, silahlı bir ticaret gemisidir. Kolomb'un Keşif Çağı'nı başlatan Yeni Dünya'yı karavelada keşfettiği yer burasıydı.
Modern gemilerin gelişimi Sanayi Devrimi ile başladı. 1807'de Amerikalı mühendis Robert Fulton, dünyanın ilk ticari buharlı gemisi Clermont'u inşa ederek buharlı gemi çağının başlangıcını işaret etti. O zamandan beri, buhar motorları çeşitli gemi türlerinde yaygın olarak kullanılmış ve gemilerin hızını ve taşıma kapasitesini büyük ölçüde artırmıştır. 19. yüzyılın sonlarında ana gemi inşa malzemesi olarak ahşabın yerini çelik almaya başladı ve gemileri daha dayanıklı hale getirdi. Aynı zamanda pervaneli tahrik sisteminin icadı gemilerin performansını daha da artırdı.
20. yüzyılda içten yanmalı motorların ortaya çıkışı, gemi teknolojisinin gelişmesine bir kez daha ivme kazandırdı. Dizel motorlar, yüksek verimlilikleri ve güvenilirlikleri nedeniyle giderek ana akım deniz güç ünitesi haline geldi. İkinci Dünya Savaşı sırasında ülkeler çok sayıda savaş gemisi ve denizaltı inşa etti ve bu da gemi teknolojisinin hızlı ilerlemesine katkıda bulundu. Savaştan sonra konteyner gemilerinin yükselişi küresel lojistik sistemini tamamen değiştirdi, nakliye maliyetlerini önemli ölçüde azalttı ve uluslararası ticaretin gelişmesine katkıda bulundu. Ayrıca yolculara konforlu bir deniz yolculuğu deneyimi sunan lüks yolcu gemileri de turizm sektörünün önemli bir parçası haline geldi.
21. yüzyıla girerken çevrenin korunması ve sürdürülebilir kalkınma denizcilik sektöründe önemli konular haline geldi. Birçok ülke ve bölge, çevre üzerindeki etkiyi azaltmak için yeşil gemileri teşvik etmeye ve daha çevre dostu gemi inşa malzemeleri ve teknolojilerini benimsemeye başladı.