Родился 15 декабря 1919 г. в деревне Чаганово Владимирского уезда Владимирской губернии (ныне Собинского района Владимирской области) в крестьянской семье. Окончил 6 классов школы. С 14 лет работал в колхозе. В 1937 г. переехал в Москву, где до призыва на военную службу работал маляром.
В ряды Красной Армии И. В. Поляков был призван в 1939 году. Участвовал в советско-финляндской войне 1939-1940 годов.
На фронте в Великую Отечественную войну с 1941 года. Отечественную войну И. В. Поляков встретил в районе Ленинграда в артиллерийской части.
С конца августа 1941 г. бригада, в которой служил сержант И. В. Поляков, была включена сначала в состав 55-й армии, а затем была подчинена 42-й армии Ленинградского фронта, в составе которой Иван Васильевич участвовал в обороне Ленинграда. Он воевал на Пулковском оборонительном рубеже.
Летом 1942 г. 705-й артиллерийский полк, где служил Поляков, был преобразован в 705-й истребительно-противотанковый артиллерийский полк и передан в непосредственное подчинение Ленинградского фронта.
За 1943 г. старший сержант И. В. Поляков огнем своей 76-миллиметровой пушки уничтожил 7 вражеских пулеметных ДЗОТов, за что был награжден медалью «За отвагу».
Особо отличился Иван Васильевич в ходе операции «Январский гром».
15 января 1944 г. подразделения 42-й армии Ленинградского фронта заняли исходные позиции для наступления в районе Пулково. В ходе мощной артиллерийской подготовки орудие старшего сержанта И. В. Полякова, ведя огонь по заданным целям, уничтожило 4 вражеских ДЗОТа и один фланкирующий пулемет, обеспечив прорыв вражеской обороны на своем участке. При подходе к огневым позициям артиллеристов 3-й танковой роты 46-го отдельного гвардейского тяжелого танкового полка прорыва Иван Васильевич прицепил свою пушку к танку. Прорвавшись вместе с танкистами в тыл противника, расчет Полякова занял позицию в районе поселка Большое Виттолово. В ходе боя артиллеристы уничтожили 3 ДЗОТа и 2 противотанковых орудия противника, мешавшие продвижению танков. Немцы попытались захватить орудие, но Поляков с бойцами отбили вражескую контратаку, рассеяв и уничтожив до взвода немецкой пехоты. Три военнослужащих вермахта, в том числе один офицер, были взяты в плен. Более суток расчет Полякова удерживал занимаемые позиции до подхода стрелковых подразделений.
19 января 1944 г. Иван Васильевич был ранен, но быстро вернулся в строй.
Указом Президиума Верховного Совета СССР от 1 июля 1944 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецко-фашистскими захватчиками и проявленные при этом мужество и героизм, старшему сержанту Полякову Ивану Васильевичу было присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда».
Осенью 1944 г. Иван Васильевич участвовал в Прибалтийской операции. Боевой путь Иван Васильевич завершил в марте 1945 г. в ходе Восточно-Померанской операции, когда 10-й танковый корпус был выведен на доукомплектование.
За боевые заслуги он был награжден орденами Красного Знамени, Отечественной войны 1-й степени, Красной Звезды, Славы 3-й степени, медалями.
После окончания Великой Отечественной войны И. В. Поляков решил продолжить службу в армии и поступил в Рязанское военное автомобильное училище, которое он окончил в 1946 году. В 1949 г. он окончил Высшую офицерскую автомобильную школу, в которой продолжил службу в должности заместителя начальника штаба школы.
В сентябре 1960 г. И. В. Поляков был уволен в запас в звании майора. Жил в Москве.
Герой Советского Союза Иван Васильевич Поляков умер 21 августа 1990 года. Похоронен на Люблинском кладбище столицы.
76-мм пушка № 118, с которой воевал расчет Полякова, демонстрируется в музее артиллерии (Санкт-Петербург), рядом установлена мемориальная табличка.
В тылу врага // Владимирцы Герои Советского Союза / А. Нагорный, В. Травкин. – Владимир, 1964. – С. 233-234.
Примаченко В. В. Поляков Иван Васильевич. – Текст: электронный // Герои страны : патриотический интернет-проект : [сайт]. – URL: http://www.warheroes.ru/hero/hero.asp?Hero_id=5683 (11.06.2020).
Поляков Иван Васильевич. – Текст: электронный // Память народа: [сайт] / Министерство обороны Российской Федерации. – URL: https://pamyat-naroda.ru/heroes/podvig-chelovek_nagrazhdenie19098084/ (11.06.2020).
Поляков Иван Васильевич // Москвитин, Я. П. Твои герои, земля Владимирская / Я. П. Москвитин, А. Ф. Нагорный. – Владимир : Посад, 2000. – С. 377-378 с.