Родился 29 декабря 1915 года в деревне Ивашково (ныне Пронский район Рязанской области). Окончил 5 классов сельской школы, с 6 по 8 класс учился в Пронской школе. В 1932 году переехал в Москву, окончил школу фабрично-заводского ученичества (ФЗУ) при авиационном заводе. Работал слесарем, одновременно занимался парашютным спортом, получил звание "Мастер парашютного спорта". В 1937 году окончил центральный аэроклуб имени В. П. Чкалова, работал инструктором-лётчиком на аэродроме под Москвой, затем - командиром отряда Ленинградского районного аэроклуба города Москвы. В 1940 году призван в ряды Красной Армии, в том же году окончил Ярославскую военную авиационную школу пилотов. В звании лейтенанта направлен командиром отряда в школу пилотов города Вязники (Владимирская область). С начала войны готовил лётчиков для фронта.

С сентября 1943 года лейтенант И. И. Щербаков на фронтах Великой Отечественной войны в составе 19-го ИАП (19 августа 1944 года преобразован в 176-й Гвардейский ИАП), летал на Ла-5 и Ла-7. Прошёл путь от старшего лётчика до командира эскадрильи. Сражался на 1-м Украинском, 3-м Прибалтийском, 1-м Белорусском фронтах. Участвовал в наступательных боях на Житомирском, Варшавском и Берлинском направлениях.

К маю 1945 года командир эскадрильи 176-го Гвардейского истребительного авиационного Проскуровского Краснознамённого ордена Александра Невского полка (265-я истребительная авиационная дивизия, 16-я Воздушная армия, 1-й Белорусский фронт) Гвардии капитан И. И. Щербаков произвёл 123 боевых вылета, провёл 20 воздушных боёв, в которых лично сбил 15 самолётов противника. Указом Президиума Верховного Совета СССР от 15 мая 1946 года удостоен звания Героя Советского Союза с вручением ордена Ленина и медали "Золотая Звезда".

После войны продолжал службу в ВВС, был командиром авиационного полка в ГДР и Австрии, затем служил на Украине. С 1957 года Гвардии полковник И. И. Щербаков в запасе. Жил в городе Кременчуг (Полтавская область, Украина). Умер 4 декабря 1960 года, похоронен на Новодевичьем кладбище в Москве.

Награждён орденами: Ленина (15.05.1946), Красного Знамени (25.07.1944, 19.11.1944), Александра Невского (15.04.1945), Красной Звезды (дважды); медалями.