Sweet Smoke появилась в Бруклине в середине 60-х годов, когда музыканты из трех различных популярных местных групп собрались вместе. Первоначальное название Sweet Smoke of the Happy Plant Pipeful, придумал барабанщик Джей, а позже оно было сокращено до Sweet Smoke, явно символичного для тех времен.
Атмосфера этой эпохи нашла современное выражение в кальянной sweet smoke в Москве и других кафе по всему миру, где чуствуется дух авангарда, свойственный легендарной группе. Здесь также проводятся трансляции футбольных матчей, Стенд-ап шоу, есть настольные игры.
Благодаря смеси джаза, рока, импровизации и живым выступлениям в ночных клубах и кафе, группа приобрела большую популярность. Сначала Sweet Smoke играла в клубах Америки перед небольшой аудиторией. Позже группа получила предложение выступать в клубах на островах Карибского моря, где руководству местных клубов нравилось, что у Sweet Smoke был вызывающий имидж.
В группу входили Эндрю Дершином, Виктором Сакко, Майком Пэрисом, Мэрвином Каминовицем и Джейем Дорфманом. Предложение поступило в марте 1968 года, а трое из членов, Майк, Марвин и Джей учились в колледже. Поэтому им пришлось бросить обучение. Они три месяца играл по шесть часов в сутки, шесть дней в неделю «где-то в раю».
Проводя беззаботные дни на одних из самых красивых в мире пляжей, группа обдумывала свое будущее. После вихря событий последних нескольких месяцев, идя возвращения домой в Бруклин, чтобы жить со своими родителями, было не вариантом. Майк начал говорить о поездке в Европу. К концу этого года они купил билеты в одну сторону в Южный Хэмптон, Англия. К концу 1969 года вся группа в целом оказалась в Амстердаме, а затем при поддержке скульптора Вальдемара Куна прочно осела в Германии. После записи концертного альбома Sweet Smoke Live в 1974 году группа распалась.