rawdopodobnie już w XIII wieku w Bielsku istniało założenie obronne. Była to drewniana warownia wzniesiona na skraju wzgórza nad rzeką Białą, oddzielona od reszty wzgórza szeroką, suchą fosą.
Niedługo po 1316 roku miasto wraz z warownią zostało otoczone murem obronnym. Na styku warowni z miastem,w murze umieszczono furtę bramną, którą niedługo potem zastąpiono silną basztą bramną. Około 1314 roku, w wyniku podziału księstwa cieszyńskiego, Bielsko staje się osadą graniczną
Zdjęcie z lotu ptaka, fot. ZeroJeden, V 2020
i nabiera znaczenia militarnego. Znajdująca się na jego terenie strażnica była wówczas prawdopodobnie niewielką, drewnianą budowlą otoczoną ziemnym wałem i fosą.
Prawdopodobnie około połowy XIV wieku warownia uległa spaleniu. Po tym wydarzeniu książę cieszyński Przemysław I Noszak rozpoczął budowę pierwszych elementów murowanych. Zamek oddzielono od miasta murem obronnym z łamanego kamienia wapiennego, który rozpoczynał się przy miejskiej baszcie bramnej, a kończył nowo wybudowaną zamkową basztą obronną. Książęca rezydencja stanęła w narożniku północno-wschodnim i podobnie jak baszta była wysunięta nieznacznie poza mury obwodowe. Pierwotnie zamek posiadał wieżę w narożniku południowo-wschodnim, której zadaniem było wzmocnienie obrony prowadzącego od południa wjazdu, oraz budynek mieszkalny wzniesiony wzdłuż północnego odcinka muru. Dodatkowym wzmocnieniem była baszta miejska sąsiadująca z północno-zachodnim narożnikiem zamkowych murów. Rezydencja była budynkiem o planie trapezu, z wnętrzami bez podziału
na mniejsze części. Prawdopodobnie budynek miał trzy kondygnacje, z czego dwie dolne nakryte sklepieniami, a górna służyła jedynie funkcjom obronnym. Książę Przemysław I Noszak uważany jest za fundatora bielskiego zamku.
W XV wieku, w związku z niepokojami wojen husyckich oraz przesunięciem granicy między Czechami a Polską, zamek bielski został rozbudowany i umocniony. Od miasta oddzieliła go fosa, a za nią nowy ciąg murów. Tym samym dotychczasowa miejska baszta bramna nie mogła już spełniać dotychczasowej funkcji i przejazd został zamurowany. Nowe wejście do baszty przebito od strony dziedzińca. Wjazd do miasta przesunięto poza nowy ciąg muru obronnego. Została zbudowana kolejna wieża mieszkalna w narożniku południowo-zachodnim. Jednocześnie w obręb zamku włączono północną basztę miejską zamurowując znajdującą się w niej bramę. W narożniku zamku od strony miasta, prawdopodobnie w miejscu dawnej furty, wzniesiono dwukondygnacjowy budynek mieszkalno-obronny, obok którego znalazła się brama wjazdowa oraz most zwodzony przerzucony nad fosą.
W drugiej połowie XV wieku zostały przekształcone również wnętrza głównego budynku zamkowego, które podzielono na mniejsze pomieszczenia. W 1489 roku książę cieszyński Kazimierz II, wykorzystując miejskie pastwiska, stworzył ogrody zamkowe na wschód od swojej rezydencji.
W XVI wieku następuje rozbudowa zamku w Bielsku, dzięki niej stopniowo zaczął on przekształcać się w rezydencję kosztem funkcji obronnych. Zamek został od wschodu umocniony niskim murem z bastejami. Powstały trzy kolejne budynki przy murze obwodowym. Wzniesiono nowy budynek przy murze południowym
Widok od północnego-zachodu, fot. ZeroJeden, VII 2004
oraz zamieniono na budynek mieszkalny basztę południowo-wschodnią. Jednocześnie do wschodniego i zachodniego odcinka starego muru obronnego, po jego zewnętrznej stronie dobudowano wolnostojące piętrowe budynki. W roku 1572 na wskutek zadłużenia się książąt cieszyńskich zmuszeni są oni sprzedać część swych posiadłości w tym Bielsko rodzinie Promnitzów, która dość szybko odsprzedaje je rodowi Schaffgotschów.
Z 1571 roku pochodzi pierwsza inwentaryzacja zamku, która spisano z powodu sprzedaży majątku zadłużonych książąt cieszyńskich. Zamek przeszedł na własność Karola z Promnic, następnie Adama Schaffgotscha. W czasach ich panowania na zamku niewiele się zmieniło. Następnie w 1592 roku majątek zakupił węgierski magnat Jan Sunnegh, którego rodzina dokonała przebudowy zamku w stylu renesansowym. Przystąpił on do rozbudowy oraz generalnego remontu rezydencji. Zmianie ulega wewnętrzny układ budynku głównego oraz najprawdopodobniej wtedy w południowej części budynku wschodniego zostaje założona kaplica. Zmodernizowane skrzydło południowe
Zdjęcie z lotu ptaka, fot. ZeroJeden, V 2020
przejęło wtedy funkcje rezydencjonalne, a całość ozdobiono polichromiami, oszczędzając na detalach kamieniarskich.
W pierwszej połowie XVII wieku kontynuowano prace budowlane, podczas których zamknięto zabudowę wokół dziedzińca w cztery pełne skrzydła oraz częściowo ujednolicono dotychczas zróżnicowane budynki. Przeprowadzane wówczas na zamku przez kolejnych przedstawicieli rodu Sünneghów prace doprowadziły do powstania czterech skrzydeł, które zamknęły obwód wokół trapezowatego wewnętrznego dziedzińca. Symbolem średniowiecznej metryki zamku pozostały górująca nad jednopiętrowymi budynkami wieża w narożniku północno-zachodnim oraz nieco niższe w narożnikach południowych. Dziedziniec zamkowy został otoczony obiegającym wszystkie skrzydła krużgankiem.
W 1646 roku zamek został zdobyty i spalony przez wojska szwedzkie. Kolejnych zniszczeń doznał w czasie pożarów miasta w 1659 i 1664 roku.
Zamek został odbudowany, a dziedziniec podczas odbudowy otoczono krużgankami. Po śmierci ostatniego z Sunneghów w 1728
Widok od północnego-zachodu, fot. ZeroJeden, VII 2004
roku bielski zamek często zmieniał właściciela, aż w końcu w 1752 roku nabył go za sumę 600 tysięcy florenów Aleksander Józef hrabia Sułkowski. Dwa lata później hrabia otrzymuje tytuł udzielnego księcia na Bielsku, a zamek staje się siedzibą rodu do końca II wojny światowej.
W 1752 roku zakupił go Aleksander Sułkowski, którego rodzina posiadała go do końca drugiej wojny światowej. Częściowo uszkodzony przez pożar z 1753 roku zamek został odremontowany, a w 1787 roku Franciszek Sułkowski rozpoczął rozległe prace budowlane, podczas których zostało nadbudowane o drugie piętro skrzydło północne.
W 1808 roku zamek ponownie spłonął, a przy odbudowie podniesiono skrzydło południowe i zachodnie do trzech kondygnacji. Do 1830 roku powstała również kaplica zamkowa w narożniku południowo-wschodnim.
Podczas kolejnego pożaru w 1836 roku zniszczone zostały górne kondygnacje zamku oraz większość okolicznych zabudowań. Podczas prac remontowych okolica uzyskała obecny wygląd - zlikwidowano miejskie fortyfikacje, zniwelowano teren. W latach 1854-1864 Ludwik Sułkowski przebudował zamek do formy zachowanej do dziś. Pod kierunkiem wiedeńskiego architekta Jana Polzmayera obiekt zyskał obecny eklektyczny wygląd. Zgodnie z ówczesną modą zamkową, wieżę nadbudowano i zwieńczono krenelażem. Od strony południowej dobudowano do zamku neoromańską kaplice pod wezwaniem św. Anny na cześć zmarłej żony księcia Ludwika Sułkowskiego.
W 1934 roku zlikwidowano ogrody zamkowe, ich teren został zabudowany.
Podczas drugiej wojny światowej zamek nie ucierpiał zbyt mocno. Po wojnie przejęty przez państwo został
Zdjęcie z lotu ptaka, fot. ZeroJeden, V 2020
zaadaptowany do pełnienia funkcji placówek oświatowych i kulturalnych. Obecnie w dawnej rezydencji Sułkowskich znajduje się Muzeum Okręgowe w Bielsku-Białej. Przez pewien czas mieściło się tu Liceum Plastyczne, obecnie jest siedzibą Muzeum w Bielsku-Białej. Liczne przebudowy na przestrzeni wieków zupełnie pozbawiły pierwotnego obronnego charakteru. O jego gotyckim pochodzeniu świadczą jedynie nieliczne zachowane relikty.