Bitterbergknapp er en lav, flerårig og eviggrønn, teppedannende plante med tykke, oppvendte, eggformede, gulgrønne til rødlige blader (3-6 mm) som er bredest nederst. På vegetative skudd har bladene tett overlapping med hverandre. Friske blader har en bitter smak, noe som har gitt opphav til det norske navnet. Det sies også at de friske, blekgrønne skuddene har en smak av pepper.


Planten blomstrer i mai til juli med sterkt gule, 5-tallige blomster (10-12 mm) i små blomsterstander på mellom 3-6 blomster. Kronbladene er 6-8 mm lange og spisse, og dobbelt så lange som begerbladene.

Bitterbergknapp vokser i næringsrik stein- eller sandjord på berghyller, tørrbakker, sanddyner, ruderatmark og i steinmurer, veiskråninger og grustak. Planten er forholdsvis vanlig i hele landet.