Erdek tarihte Artake adıyla tanınmaktadır. Bu isimlere bakarak ilçenin Sitler tarafından kurulduğu söylenebilir. Ancak Erdek tarihi milattan önce 5400'lü yıllara dayanır. Artake sitlerin efsanevi krallarından biridir.
Erdek'in önünde bulunan ve günümüzde Zeytinlik olarak bilinen ada Artake ismi ile tanınıyordu. Ayrıca karşısındaki tepe üzerindeki antik kente de bu isim verilmişti.
Artake sözcüğü MÖ 2000'lerde yaygın bir dil olan Luwi dilinden gelirse de anlamı bilinmiyor. Artake'nin ne zaman ve kimler tarafından kurulduğu hakkında da bilgi yok. MÖ 8. yüzyılda Miletoslu göçmenler burasını ele geçirerek Hellenleştirmişlerdir.
Byzantionlu Stephanos,Timosthenes isimli bir İlk Çağ tarihi yazarının Artaka'nın Kyzikos'ta bir dağ ve önündeki adacığın ismi olduğunu yazdığını ileri sürmüştür. Plinius da bu adanın ismine Artacaeon olarak değinir. Bunların dışında Artake ile ilgili belirgin bir bilgi yoktur.
Miletos önderliğinde başlatılan Batı Anadolu ayaklanmasına katılan kentleri cezalandırmak için Perslerin gönderdiği donanma diğer kıyı kentleri gibi Artake'yi de talan etmiş,yakıp yıkmıştır. Buradan kaçan halk da günümüzdeki Erdek'in olduğu yere kaçarak oraya yerleşmişlerdir. Ortaçağ da Artake bir ara canlı bir kent konumuna geçmeye çalışmışsa da sonuçta her zaman yakınındaki Kyzikos'a bağımlı kalmıştır. Artake'den, geçirdiği yangın ve depremlerden dolayı günümüze hiçbir tarihi kalıntı ulaşamamıştır.
Tarih çağlarında Artake’den ilk söz eden Herodot olmuştur. Artake MÖ 7. yüzyılın başında Miletoslular tarafından kolonize edilmiş, MÖ 361 yılından önce bütün Kapıdağ ile birlikte Kyzikos’un egemenliğine girmiştir. Helenistik çağ boyunca sürekli olarak yükselip parlayan Kyzikos’un yanında gittikçe önemini yitiren Artake, Roma döneminde de bu sitenin bir dış mahallesi durumuna düşmüştür. Bizans çağıyla beraber limanları ihmal edilen ve depremlerle yıkılan binalarının taşları yağma edilen Kyzikos’un gerilemesiyle giderek gelişmeye başlamış ise de Kyzikos’un ününe yetişememiştir. Tarihçi Herodot iktisadi durumunu da ele alarak üzümünü, şarabını, zeytin ve zeytinyağını methetmiştir.
Artake 1339 yılında Orhan Gazi’ nin oğlu Süleyman Paşa tarafından fethedilip Türk egemenliğine geçmiştir.
Osmanlı döneminde ise Erdek'in en güzel en açık bir şekilde Evliya Çelebi'nin Seyahatname isimli eserinden öğreniyoruz. 1639 yılında Erdek'e iki kez gelen Evliya Çelebi Erdek'in tahtanı ve fevkanı iki katlı evlerinde, hanları hamamları, dört mihrap camilerinden 25.000 dönüm bağlarından misket üzümünden dokuz çeşit şarabından bahseder. Yine Evliya'nın ilginç bir anısında bugün Erdek limanında bulunan küçük Zeytinli Ada ile ilgilidir. Evliya Çelebi Zeytinli Adası ile ilgili şöyle bahsediyor:
« Bu Erdek'in karşı garbında bir mil bait derya içere taam sofrası kadar bir yerde kaynar bir ılıca suyu vardır ki Adem içine girmeyi tahammul edemeyip deryaya karıştığı yerde gusul ederler. İki türlü hasai kudret bireşince gusul edenler hayati cavidani bulurcasına memnun ve sıhatül vücut olurlar. »
satırları ile Zeytinli Ada'daki şifalı sulardan bahsediyor.
1891 yılı Osmanlı nüfus sayımına göre Erdek'te yaşayan kişi sayısı 33.007 kişidir. Bunların büyük çoğunluğu (%89) Rumlardan oluşmaktadır (29.165 kişi). Erdek'teki Türk nüfusu ise 3.070 kişidir (%9). Erdek merkez nüfusunun %91'i Hristiyanlardan oluşmaktaydı.
1807’de de Karesi Sancağına bağlanmıştır. 19. yüzyılın sonlarına kadar bu sancağa bağlı bir kaza olan Erdek (Bu tarihlerde Bandırma, Erdek kazasına bağlı bir bucaktı), daha sonra 1930'lu yıllara kadar Bandırma'ya bağlı bir bucak haline geldi ve bu tarihte ayrı bir ilçe merkezi oldu. 1980'de 10.000 olan nüfus, 2000'de 20.000'e ulaşmıştır.
1924 Mübadelesiyle Rumların boşalttığı Erdek merkeze ve köylere Selanik'e bağlı Karacaova (Karacaabat) ve Kavala Pomakları Giritli ve Boşnak göçmenler yerleştirilmiştir