蘇門答臘在古代以梵文名稱Suwarnadwīpa（“黃金島”）和Suwarnabhūmi（“黃金之地”）而聞名，因為該島的高地有黃金礦床。目前已知的最早的蘇門答臘形式是在1017年，當時當地國王哈吉·蘇門答臘（蘇門答臘地的國王）派使者到中國。阿拉伯地理學家在10至13世紀稱該島為拉姆里（Lamuri、Lambri或Ramni），指的是現代班達亞齊附近的一個王國這是貿易商的第一次登陸。該島也以其他名稱而聞名，包括安達拉斯島或佩爾查島。

在13世紀后期，馬可波羅將王國稱為薩馬拉，而他同時代的意大利旅行家波代諾內的奧多里克則使用了Sumoltra的形式。在14世紀后期，由于SamuderaPasai王國和隨后的亞齊蘇丹國的崛起，當地形式的蘇門答臘在國外流行起來。

此后，后來的歐洲作家大多使用蘇門答臘島或類似形式的全島名稱。

Srivijayan的影響在11世紀被印度南部的Chola帝國擊敗后減弱。與此同時，伊斯蘭教在公元6世紀和7世紀通過阿拉伯人和印度商人傳入蘇門答臘。到13世紀后期，薩穆德拉王國的君主皈依了伊斯蘭教。馬可波羅于1292年訪問了該島，并于1321年訪問了他的意大利同胞波代諾內奧多里克。

摩洛哥學者伊本·白圖泰與蘇丹一起訪問了15天，并指出薩穆德拉市是一座漂亮的大城市，有木墻和塔樓，他的回程還有兩個月。強大的亞齊蘇丹國繼承了薩穆德拉，并延續到了20世紀。隨著荷蘭人的到來，許多蘇門答臘諸侯國逐漸落入他們的控制之下。北部的亞齊是主要障礙，因為荷蘭人卷入了漫長而代價高昂的亞齊戰爭（1873-1903）。

該島受到1883年喀拉喀托火山噴發和2004年節禮日海嘯的嚴重影響。

蘇門答臘的人口并不特別稠密，每平方公里有123.46人——總共約5855.7萬人（在2020年人口普查中）。由于其廣闊的范圍，它仍然是世界上人口第五多的島嶼。