大约在公元1400年左右，淡马锡国王拜里米苏拉为了逃避侵入的满者伯夷军队发现了一个小渔村为避难所，在此建立了该城镇。他在那里控制了马六甲海峡的一个港口，建立了马来王国，随后很快的他的权势便扩散在整个半岛甚至更远处。之后的马六甲苏丹国很快便成为了中国、阿拉伯和欧洲贸易商队的落脚处来补给他们的食物和水源供应。马来人的统治一直维持到1511年，直到阿方索·德·阿尔伯克基为葡萄牙将其占领。

在接下来的一个世纪中，葡萄牙人大量建设出口糖类和大米码头以及仓库，使得马六甲成为了东南亚最重要的贸易港口。公元1941年荷兰东印度公司占领并增强该城城防后，港口贸易继续扩大。英国和荷兰对此战略海峡的控制竞争最终以签订英荷条约归属为英国而结束，马六甲从此成为了大英帝国最初的“海峡殖民地”之一。严重的海港河口淤积以及新加坡的快速成长，导致了马六甲作为一个商业中心的衰弱。

解除了在二战期间日本人占领成立的直辖殖民地之后，马六甲在1957年成为了独立的马来亚联邦的一部分，马来亚联邦之后演变为现代国家马来西亚。战争之前，周边地区发展橡胶味经济作物已经初有成效；战争之后，橡胶作为马六甲主要出口货物使得这个城市再次成为一个重要的港口。疏浚工程和海堤建设使得重载远洋货轮和集装箱运货船得以停泊，加上铁路和高速公路的连接再一次让这一地区成为了重要的货运码头。