Первой записью коллектива был мини-альбом «Телефон», состоящий из четырёх песен («Телефон» (другое название - «Здравствуй!»), «Живущие не так», «Никто не знает» и «Город после дождя»), но настоящее признание группы приходится на конец 1983 года после записи первого полноценного альбома - «Пластилин». Коллектив успешно выступает на легендарном фестивале самодеятельных групп в Долгопрудном, ведёт активную концертную деятельность. Его сильной стороной всегда было отменное звучание и гитарные соло Горячева, тяготевшего к мэйнстриму 70-х.
История группы началась в 1983 году, когда бас-гитарист Сергей Галанин и клавишник Алексей Аедоницкий пригласили гитариста Александра Горячева и ударника Сергея Боровкова. Новоиспечённый коллектив был назван «Гулливер».
В 1969 году Страттон-Смит организовал собственную фирму грамзаписи "Charisma Records" и первым делом пристроил на нее своих подопечных из "VDGG". Перед записью "The Least We Can Do Is Wave To Each Other"
Эллиса, ушедшего в "Juicy Lucy", сменил Ник Поттер, а, кроме того, в составе появился саксофонист Дэвид
Джексон. Кадровые изменения повлияли и на музыку, и психоделические элементы уступили место мрачноватым джазово-классическим текстурам. "The Least We Can Do Is Wave To Each Other" был принят достаточно тепло, и группа приступила к работе над следующим (не менее успешным) альбомом. В самый разгар сессий "H To He Who Am The Only One" сбежал Поттер, однако это практически не отразилось на качестве пластинки. Басовые партии удачно сымитировал на своем органе Бэнтон, а дополнительные штрихи
наложил гость из "King Krimson" Роберт Фрипп.
Состав группы, существовавший на тот момент, получил статус классического, что подтвердилось выпуском замечательного альбома "Pawn Hearts". Эта работа, на которой вновь появился Фрипп, рассматривается большинством поклонников "VDGG" лучшей в дискографии коллектива. Тем не менее, вскоре команда была распущена, а Хэммилл начал сольную карьеру. Расставание прошло в дружественной обстановке, поэтому впоследствии коллеги Питера время от времени участвовали в записи его альбомов.