这座城市最初的位置在一座小山上，可以俯视山下的湖泊。其最早的居民来自旧石器时代，稍后是利古里亚人和凯尔特人之前的一批人。大约公元前5世纪时，日内瓦成为了一个有防御城墙的小镇。凯尔特人定居在这个小镇直到公元前121年罗马占领这里。城市的所有权持续地在爆发战争的邻邦之间转换，直到公元1033年落入神圣罗马帝国之手。当时日内瓦已经成为一个重要的教会所在地，当地的主教是神圣罗马帝国皇帝的直接下属，是个拥有封地的贵族。

接下来的5个世纪里，日内瓦的控制权在萨伏伊公爵和天主教会之间不断争夺。当公元1533年，最后一个统治当地的主教逃离时，日内瓦的市民做了一个冒险的举动以期彻底摆脱天主教会和萨伏伊人的统治，他们与新教徒邦国伯尔尼结盟了，并宣称自己是新教徒主权城市。虽然这样做确实把权力归还给了日内瓦的人民，但也使得这个城市在几代人的时间里与周边的信仰天主教的瑞士人越来越疏远。宗教改革家约翰加尔文在1536年日内瓦宣布脱离天主教后就来到了这个城市定居，直到30年后逝世。在这30年里，他成为了当地的新的精神领袖，替代了主教的位置。在随后的许多年里，虽然在17世纪早期时很大一部分区域又重新回归信仰天主教，日内瓦依然是新教徒的堡垒。

在法国大革命时，日内瓦曾被法国短暂吞并。但在1814年的维也纳会议上，日内瓦被瑞士联邦接纳，其管辖范围也扩大以覆盖15个周边的萨伏伊人教区。大会明确表示只要这些天主教区不受到宗教迫害，就会保证日内瓦的中立地位。但天主教徒与新教徒间的紧张气氛还是持续上升，1907年，日内瓦通过法律强制执行政教分离——政府权力不再援助任何宗教团体。

第一次世界大战后，1919年日内瓦成为国际联盟的所在地，使得其成为“国际的城市”。这种新的形象继续发展，第二次世界大战后成为联合国欧洲总部的所在地，更不用提数不清的其他国际组织和团体。因此，旅游业和商业也在当地兴旺起来。