Родился 25 марта (7 апреля) 1916 года в Петрограде в семье художника В. С. Щербакова, ученика И. Е. Репина, окончившего Высшее художественное училище при ИАХ. Валентин Щербаков освоил древную технику фресок, применяя ее при росписи церквей, строившихся под управлением конструктора А. В. Щусева. Октябрьская революция и Штатская война вынудили семью Щербаковых переехать на родину отца в Казань. В 1930-е годы семья Щербаковых возвратилась в Петербург.
В 1933 году поступил во Всероссийскую Академию художеств, которую удачно окончил в 1939 году. Дипломная работа Бориса Щербакова «Редакция газеты „Правда“, год 1917-й» была показана на Всесоюзной выставке в Москве, а репродукция картины была написана в журнальчике «Огонёк».
Темы голландских натюрмортов ярко появляются в работе «Воспоминание о старенькых голландцах» (1938). Одними из первых работ Щербакова были полотна на исторические темы: «А. С. Пушкин в Петербурге», «Кремль в Ростове на дону Величавом. Вечер», «Париж. Мост Александра III», «Здесь Пушкин погребен», «Древнеримский форум». Совместно с папой Щербаков-младший работал над росписями церковных фресок в Киеве.
Величавая Российская война началась для художника в роли сапера, минировавшего подступы к Москве в 1941 году. Потом Щербаков продолжил службу в действующей армии в роли фронтового художника, выполнив более восьмидесяти работ на фронтовые темы.
Многие работы публиковались в журнальчике «Огонёк», представлялись в виде подарков зарубежным дипломатичным делегациям и миссиям, также интенсивно продавались за рубежом, когда началась торговля русским русским искусством. Творческое наследство Щербакова разбросано по всему миру — от Нью-Йорка до Токио.
Творчество Бориса Щербакова отмечалось высочайшими наградами. С 1973 года он член-корреспондент АХ СССР, с 1992 года — член-корреспондент РАХ.
В текущее время картины Бориса Щербакова хранятся в почти всех музеях мира, в дипломатичных и в муниципальных представительствах, в том числе и в Конгрессе США, и в Белоснежном Доме.
Б. В. Щербаков погиб 25 июля 1995 года. Похоронен в Москве на Ваганьковском кладбище рядом с папой.