В городе Плунге находится один из значительных памятников архитектуры – усадьба князей Огинских (Oginskiu rumai Plungeje).
Род Огинских происходит от древних князей и с 1547 года именовался во всех польских королевских рескриптах, сеймовых постановлениях и судебных актах, княжеским титулом. Среди Огинских было много знаменитых личностей: Григорий Антоний Огинский (на польском Grzegorz Antoni Oginski; 23 июня 1654 года – 17 октября 1709 года, Люблин) – политический и военный деятель Великого княжества Литовского и Речи Посполитой, великий гетман литовский, князь; Михаил Казимир Огинский (на польском Michal Kazimierz Oginski, на литовском Mykolas Kazimieras Oginskis, 1729 год — 31 мая 1800 года) — государственный и военный деятель Речи Посполитой; Михаил Клеофас Огинский (на польском Michal Kleofas Oginski; на белорусском Міхал Клеафас Агінскі; 25 сентября 1765 года, Гузув близ Варшавы, Мазовецкое воеводство, Речь Посполитая — 15 октября 1833года, Флоренция, Великое герцогство Тосканское) — знаменитый композитор ( автор знаменитого полонеза „Прощание с Родиной” (на польском „Pozegnanie Ojczyzny”, на белорусском „Развітанне з Радзімай”), политический деятель Великого княжества Литовского, участник восстания Костюшко, граф. И многие другие представители рода занимали значительные государственные должности.
В 1873 году Плунгское поместье у Александра Зубова купил князь Иренеюс Огинский. После Иренеюса Огинского это поместье унаследовал его сын Михаил Николай Северин Марк Огинский (1849-1902). Старый дворец был двухэтажным. Первый этаж был каменным, а второй – из дерева. В 1879 году князь Михаил Огинский, на месте старого дворца построил новый дворец в стиле неоренессанса, и другие хозяйственные постройки. Почти все они сохранились до наших дней.
Вокруг дворца раскинулся парк площадью 58.3 га. Предположительно парк был разбит в середине XVIII века, а в конце XIX века были вырыты пруды. В центральном пруду расположен фонтан. Были посажены многолетние растения. Через парк протекает река Бабрунге (Babrungas).
Этот дворец с самого начала был известен как важный центр Жямайтийской культуры и просвещения. Князья Огинские были большими поклонниками музыки, поэтому еще в 1873 году в своей усадьбе они организовали музыкальную школу, при которой существовал оркестр. В Плунге учился и Микалоюс Константинас Чюрлёнис - знаменитый литовский художник и композитор; родоначальник профессиональной литовской музыки .
Во дворце Огинских до его национализации было накоплено много художественных ценностей. Часть из них попали в Литовский музей.
Дворец горел в 1941 году. В 1961 году был восстановлен и в нём расположились различные организации.
В 1994 году 16 июля во дворце был открыт Жемайтийский художественный музей (Zemaiciu dailés muziejus).