Родился в Нью-Йорке. Когда ему было 12 лет, умер его отец-коммерсант, оставивший за собой долги и заставивший Мелвилла расстаться с мыслью о получении университетского образования. С 18 лет плавал юнгой на пакетботе, затем некоторое время работал учителем; в 1841 году отправился на китобойном судне «Акушнет» в Южные моря. Через полтора года из-за конфликта с боцманом «Акушнета» Мелвилл сбежал с корабля около Маркизских островов и попал в плен к туземцам, затем был освобождён экипажем американского военного судна. После трёхлетних странствий вернулся на родину, чтобы заняться литературной деятельностью.
Его основанные на собственном опыте романы Typee: A Peep at Polynesian Life и Omoo: A Narrative of Adventures in the South Seas, сразу же принёсшие писателю славу (роман Typee был самой популярной книгой Мелвилла при его жизни), характерны уходом в экзотику, полным отказом от привычной для читателя действительности.
Мелвилл уводит своего героя в первобытный мир, к неиспорченным цивилизацией дикарям Южных морей. За увлекательными сюжетами стоит волновавшая не только Мелвилла проблема: можно ли, отказавшись от цивилизации, вернуться к природе?
Аллегорический роман о плавании как философских поисках Абсолюта Mardi: And a Voyage Thither успеха не имел.
В следующих произведениях, по-прежнему отталкиваясь от личного опыта, Мелвилл стремится анализировать окружающую действительность и социальные отношения. Он пишет Redburn: His First Voyage и White-Jacket; or, The World in a Man-of-War. White-Jacket изображает зло и жестокость современных автору военных.
Однако Мелвилл отказывается от реалистических морских романов и создаёт свой главный шедевр Moby-Dick; or, The Whale. Он провозглашает примат иррационального. В Moby-Dick Мелвилл доказывает иррационализм социальных отношений; он рисует фантастически мрачную действительность, где господствует таинственный белый кит по имени Моби Дик, которого практически никто не видел, но который обнаруживает себя «результатами своих действий». Моби Дик властвует над всем, он согласно слухам вездесущ (возможно, он символизирует Бога или дьявола).
Moby-Dick не был оценен подавляющим большинством современников. После разгромной критики через год готического романа Pierre; or, The Ambiguities, где изображён писатель, который среди шумной толпы чувствует себя таким же одиноким, как на полюсе, Мелвилл публиковался анонимно, печатая рассказы в журналах. Многие из них вошли в сборник The Piazza Tales. За год до этого вышел исторический роман Israel Potter: His Fifty Years of Exile.
Последним романом Мелвилла был The Confidence Man: His Masquerade — язвительная сатира на человеческую доверчивость. Действие происходит на корабле «Вздор», плывущем по Миссисипи.
Деньги, принесённые в первую очередь произведениями раннего периода, ещё оставались, и в 1860 году Мелвилл совершил кругосветное путешествие. Однако с 1866 по 1885 гг. он уже служил чиновником на таможне.
Мелвилл продолжал писать, но умер почти забытым. Только в анонимном некрологе написали об «исключительно одарённом авторе», который обладал «могучим поэтичным воображением».
