Kota Sabang sebelum Perang Dunia II adalah kota pelabuhan terpenting dibandingkan Temasek (sekarang Singapura).
Sabang telah dikenal luas sebagai pelabuhan alam bernama Kolen Station oleh pemerintah kolonial Belanda sejak tahun 1881. Pada tahun 1887, Firma Delange dibantu Sabang Haven memperoleh kewenangan menambah, membangun fasilitas dan sarana penunjang pelabuhan. Era pelabuhan bebas di Sabang dimulai pada tahun 1895, dikenal dengan istilah vrij haven dan dikelola Maatschaappij Zeehaven en Kolen Station yang selanjutnya dikenal dengan nama Sabang Maatschaappij. Perang Dunia II ikut mempengaruhi kondisi Sabang dimana pada tahun 1942 Sabang diduduki pasukan Jepang, kemudian dibom pesawat Sekutu dan mengalami kerusakan fisik hingga kemudian terpaksa ditutup.
Pada masa awal kemerdekaan Indonesia, Sabang menjadi pusat pertahanan Angkatan Laut Republik Indonesia Serikat (RIS) dengan wewenang penuh dari pemerintah melalui Keputusan Menteri Pertahanan RIS Nomor 9/MP/50. Semua aset pelabuhan Sabang Maatschaappij dibeli Pemerintah Indonesia. Kemudian pada tahun 1965 dibentuk pemerintahan Kotapraja Sabang berdasarkan UU No 10/1965 dan dirintisnya gagasan awal untuk membuka kembali sebagai Pelabuhan Bebas dan Kawasan Perdagangan Bebas.
Gagasan itu kemudian diwujudkan dan diperkuat dengan terbitnya UU No 3/1970 tentang Perdagangan Bebas Sabang dan UU No 4/1970 tentang ditetapkannya Sabang sebagai Daerah Perdagangan Bebas dan Pelabuhan Bebas. Dan atas alasan pembukaan Pulau Batam sebagai Kawasan Perdagangan Bebas dan Pelabuhan Bebas Batam, Sabang terpaksa dimatikan berdasarkan UU No 10/1985. Kemudian pada tahun 1993 dibentuk Kerja Sama Ekonomi Regional Indonesia-Malaysia-Thailand Growth Triangle (IMT-GT) yang membuat Sabang sangat strategis dalam pengembangan ekonomi di kawasan Asia Selatan.
Pada tahun 1997 di Pantai Gapang, Sabang, berlangsung Jambore Ilmu Pengetahuan dan Teknologi (Iptek) yang diprakarsai BPPT dengan fokus kajian ingin mengembangkan kembali Sabang. Disusul kemudian pada tahun 1998 Kota Sabang dan Kecamatan Pulo Aceh dijadikan sebagai Kawasan Pengembangan Ekonomi Terpadu (KAPET) yang bersama-sama KAPET lainnya, diresmikan oleh Presiden BJ Habibie dengan Keppes No. 171 tahun 1998 pada tanggal 28 September 1998.
Era baru untuk Sabang, ketika pada tahun 2000 terjadi Pencanangan Sabang sebagai Kawasan Perdagangan Bebas dan Pelabuhan Bebas oleh Presiden KH. Abdurrahman Wahid di Sabang dengan diterbitkannya Inpres No. 2 tahun 2000 pada tanggal 22 Januari 2000. Dan kemudian diterbitkannya Peraturan Pemerintah pengganti Undang-Undang No. 2 tahun 2000 tanggal 1 September 2000 selanjutnya disahkan menjadi Undang-Undang Nomor 37 Tahun 2000 tentang Kawasan Perdagangan Bebas dan Pelabuhan Bebas Sabang.
Aktivitas Pelabuhan Bebas dan Perdagangan Bebas Sabang pada tahun 2002 mulai berdenyut dengan masuknya barang-barang dari luar negeri ke kawasan Sabang. Tetapi pada tahun 2004 aktivitas ini terhenti karena Aceh ditetapkan sebagai Daerah Darurat Militer.
Sabang juga mengalami Gempa dan Tsunami pada tanggal 26 Desember 2004, namun karena palung-palung di Teluk Sabang yang sangat dalam mengakibatkan Sabang selamat dari tsunami. Sehingga kemudian Sabang dijadikan sebagai tempat transit udara dan laut yang membawa bantuan untuk korban tsunami di daratan Aceh. Badan Rekontruksi dan Rehabilitasi (BRR) Aceh-Nias menetapkan Sabang sebagai tempat transit untuk pengiriman material konstruksi dan lainnya yang akan dipergunakan di daratan Aceh.
