Родился 23 сентября 1903 г. в г. Валдае Новгородской обл. в семье врача. Дети в семье Герасимовых получили великолепное воспитание и общее гуманитарное образование. Яков Иванович с детства свободно английским, французским и немецким языками, был знатоком и ценителем истории, литературы и музыки.

Гимназию он окончил в Рыбинске, и в начале 1920 года начал работать смотрителем и платным заведующим Историко-художественным музеем.

Осенью 1920 г. Я.И. Герасимов становится студентом химического отделения МГУ. Впоследствии там же он закончил аспирантуру и прошел путь от препаратора до профессора, заведующего кафедрой физической химии, которой руководил с 1952 по 1982 г.

Научные интересы Я.И. Герасимова с основном были связаны с химической термодинамикой. Обширные исследования были невозможны без развития экспериментальной техники, и в лаборатории разрабатывались многие оригинальные экспериментальные методики.

Я.И. Герасимов является автором и редактором многих учебников для высшей школы. На его трудах воспитывалась отечественная школа специалистов по термодинамике неорганических веществ. Более 25 лет Яков Иванович был редактором "Журнала физической химии", заведовал редакцией химической литературы издательства "Мир". Более 10 лет состоял членом комитета Международного союза по теоретической и прикладной химии. Был награжден многими правительственными наградами.

Умер 17 марта 1983 г.