Почему не определяется для определенной категории

Если вы используете вложенность!
Тобеж:
Если вы уже используете теги [category=x]текст[/category]
а под словом "текст" имеется ввиду еще одна вставка [category=x]другой текст[/category]
То вы такой результат и получите, который у Вас получился.

Так работать не будет: [category=x][category=x2]другой текст[/category][/category]
При таком выражение на странице вы увидите: [category=x2]другой текст[/category]