Cmentarz był i jest dla Żydów miejscem zawsze otaczanym czcią, był kojarzony z "Bramą do nieba", lecz bez uprawiania kultu zmarłych. Religia judaistyczna uznaje miejsca pochówku za szczególne sacrum i nie zna pojęcia likwidacji cmentarza. Najważniejsze jest to, co kryje ziemia i nie ma większego znaczenia to, co i w jakim stanie zachowało się na powierzchni cmentarza. Nagrobek jest tylko znakiem wskazującym uświęcone miejsce.
Kamienny nagrobek stawiano w pierwszą rocznicę śmierci, co było uważane za "uroczysty i radosny moment dla zmarłego". Zasady tej religii nie zezwalają na jakiekolwiek inne, poza grzebaniem zmarłych, użytkowanie terenu raz przeznaczonego na pochówek. Prochy w stanie nienaruszonym powinny oczekiwać na dzień Sądu Ostatecznego. Ta podstawowa zasada w religii mojżeszowej wyróżnia obrządek pogrzebowy od podobnych obyczajów w religii katolickiej. Ceremonią pogrzebową wraz z przygotowaniem pochówku zajmowało się stworzone w tym celu w gminie bractwo pogrzebowe Chewra Kadisza. Najpóźniej w pierwszą rocznicę śmierci stawia się kamienny nagrobek zwany po hebrajsku macewą, który powinien być zwrócony epitafium w kierunku Jerozolimy - Ziemi Obiecanej i tak jest też na zabrzańskiej nekropolii. Na odwiedzanych grobach zamiast składania kwiatów - bo one są przeznaczone dla żywych - kładzie się kamyki i jest to zwyczaj uświęcony wieloletnią tradycją.

   Wyjątkowy charakter tej żydowskiej nekropolii bierze się z niezwykłego zestawienia występujących obok siebie tradycyjnych skromnych macew z monumentalnymi przyściennymi zdobionymi kolumnami i trójkątnymi tympanonami rodzinnymi grobowcami nawiązującymi swym wyglądem do świątyń starożytnych. Takie zestawienie jest wynikiem postępującej wśród zabrzańskich Żydów asymilacji, od dawnego obyczaju i surowych nauk religii mojżeszowej, ku postępowi i modzie państwa pruskiego.

   Kształt cmentarza przypomina literę "L". Został założony w czterech etapach i obecnie jego całkowita powierzchnia wynosi ponad 1 hektar. Cmentarz posiada 14 kwater, w których spoczywa około 1000 osób wyznania mojżeszowego, z czego na powierzchni zachowało się 671 nagrobków.
Po zakończeniu II wojny światowej, od stycznia 1945 r. do 1953 r., chowano w jednej z kwater Żydów przybyłych do Zabrza z terenów wschodnich, którzy na terenie miasta tworzyli od podstaw Polską gminę żydowską. Ich nagrobki często oprócz skromnego epitafium w języku hebrajskim, czasami ograniczającym się wręcz tylko do symbolu gwiazdy Dawida, posiadają napisy w języku polskim.
Najbardziej wymownym powojennym nagrobkiem na tym cmentarzu jest grób młodej dziewczyny Blumy Wajn, więźniarki obozu zagłady w KL Auschwitz zastrzelonej w Zabrzu podczas zamachu w styczniu 1946 r.

   W obrębie cmentarza znajduje się 266 drzew 13 gatunków. Najliczniejszą grupę stanowią grochodrzewy, przez niektórych poetycko nazywane "akacją afrykańską", którymi planowo została obsadzona główna aleja cmentarna wybrukowana kamienną kostką. Podobnie obsadzono poprzeczne alejki cmentarza, które w całości tworzą przejrzysty i czytelny układ kompozycyjny.
Podstawową rośliną na terenie całego cmentarza jest bluszcz pospolity. W sztuce sepulkralnej symbolizuje on, poprzez swoje wiecznie zielone liście, nieśmiertelność.

   Pochówki na cmentarzu żydowskim odbywały się od kwietnia 1871 r. do 1954 r., w którym to zaprzestano grzebania zmarłych. W najbardziej wiekowej części cmentarza po lewej stronie, na początku głównej alei znajdują się trzy najstarsze nagrobki utrzymane w kanonie macewy. Są to nagrobki dzieci: Moritza Adlera, Johanny Friedman oraz Helen Schüller, zmarłych według kalendarza żydowskiego w 5631/32 roku od stworzenia świata, czyli w 1871/72 r.
   O tradycyjnej formie nagrobków w tej najstarszej części cmentarza oprócz kształtu nagrobka świadczy także treść charakterystycznego hebrajskiego epitafium napisanego w "świętym języku". Każde epitafium, oprócz imienia i przymiotów zmarłego podaje jego patrymonium określające identyfikację przynależności rodzinnej. Nazwiska dziś widoczne na nagrobkach, o brzmieniu najczęściej niemieckim, Żydzi w państwie pruskim przyjęli dopiero w pod koniec XVIII w. Stałym elementem tekstu jest także data zgonu zapisana według kalendarza żydowskiego, liczona od początku stworzenia świata i podana według skróconej daty. Cmentarz żydowski jest jedyną nekropolią w Zabrzu gdzie daty urodzin i śmierci są podawane od stworzenia świata.
Każde epitafium niemal zawsze zamyka symboliczny skrót składający się z pięciu liter hebrajskich TNCBH: Teschi Nafscho Zerurach Bizror Hachajim oznaczający: niech dusza jego (jej) związana będzie w węzeł życia (I ks. Samuela), będąca zarazem życzeniem wieczności dla duszy człowieka. Większość pomników nagrobnych pokrywają inskrypcje w języku hebrajsko-niemieckim, co było wyrazem silnej asymilacji tutejszej gminy z kulturą niemiecką.

   Symbolika, tak bardzo charakterystyczna dla cmentarzy żydowskich, na zabrzańskiej nekropolii jest bardzo uboga i występuje tylko na kilku nagrobkach. 

Najokazalsze nagrobki powstały tu w ostatnich latach XIX i na początku XX w. Dominuje w nich styl historyczny i eklektyczny, reprezentowany przez szpalerowe grobowce wtopione w mury przyścienne po obydwu stronach cmentarza. Nie brak też grobów i pomników w stylu secesyjnym. Najokazalszym jest niewątpliwie grobowiec, wybudowany z czarnego granitu szwedzkiego przy głównej alei, rodziny zamożnego filantropa, uczonego w Torze Maxa Jechiela Böhma zmarłego w styczniu 1904 r. Również na terenie tej nekropolii znaleźli swoje miejsce spoczynku (pod murami na początku i na końcu cmentarza) żołnierze rosyjscy pochodzenia żydowskiego z I wojny światowej, zmarli w Zabrzu w 1918 r. w obozach pracy oraz żołnierze armii radzieckiej polegli podczas walk w tej dzielnicy w 1945 r.