Иван Николаевич Грачев родился в 1903 г. в деревне Верхнеугличино Кармаскалинского района Республики Башкортостан. До начала Великой Отечественной войны трудился в сельском хозяйстве - сначала заведующим свинофермой в совхозе "Карламан", затем заместителем директора совхоза имени 8 Марта в Ермекеевском районе. На фронт был призван в июле 1941 года.
Свой главный подвиг совершил во время форсирования Днепра осенью 1943 года. 23 сентября сержант Грачёв первым в батальоне под огнём противника преодолел водную преграду в районе посёлка Комарин (Брагинский район Гомельской области). Проявив исключительную смелость, он приблизился к вражеским позициям на 50 метров, провёл разведку обороны и добыл ценнейшие сведения, которые обеспечили успешную переправу основных сил. В последующих боях на плацдарме Грачёв личным примером воодушевлял бойцов, уничтожив две вражеские пулемётные точки. В одном из ожесточённых боёв получил тяжёлое ранение и был эвакуирован в госпиталь.
За проявленные мужество и героизм Указом Президиума Верховного Совета СССР от 16 октября 1943 года Ивану Николаевичу Грачёву было присвоено звание Героя Советского Союза.
Умер в госпитале 20 октября 1943 года, похоронен в братской могиле в селе Ковпыта Черниговского района Черниговской области Украины.