קצובר נולד לזוג ניצולי שואה במחנה-עקורים באוסטריה. אחיו הבכור שלמה ברוך נעלם בשואה, ובגיל שנה עלתה משפחתו לישראל.
בגיל 16 החל לכתוב ב"ידיעות ירושלים", בנושאי דת. בשנות ה-70 היה מראשי המדור להווי ומסורת יהודית בקול ישראל וערך תוכניות דת ומסורת, בהן התוכנית "קבלת שבת" ששודרה מדי יום שישי ו"מצעד הזמירות החסידי". במקביל שימש עיתונאי בעיתון שערים, ביטאונה של תנועת פא"י, שבו גם השתלב בתחום הצבאי.
במחצית שנות השבעים התפרסם בעקבות פרסום ידיעה ובה טען כי הטקס לציון הגעתם של מטוסי ה-F-15 הראשונים של חיל האוויר יגרום לחילול שבת של המשתתפים בו. בהמשך הוגשה בכנסת הצעת אי-אמון על ידי החזית הדתית התורתית.
בשנות השמונים ייסד וערך את העיתון "ערב שבת", ששינה את שמו בהמשך ל"יום השישי". שנים קדימה הצטרף לסגל הכותבים בעיתון "המודיע", בו שימש כפרשן לענייני צבא ומדינה.