Илья Исаакович Гинзбург родился 13 (25) января 1882 года в Москве в мещанской семье. Получил серьёзное образование: в 1902—1904 годах учился во Фрайбергской горной академии в Германии, а в 1913 году окончил Петербургский политехнический институт, после чего начал работать в нём же.

В 1920-е годы занимался геохимическими и минералогическими исследованиями, был геологом-экономистом Геологического комитета и участвовал в работе Комиссии по изучению производительных сил России. В 1923—1925 годах находился в научной командировке в Берлине.

12 декабря 1928 года был арестован по так называемому «делу Геолкома» и осуждён на 10 лет лагерей. В 1929 году прибыл в Ухту, где участвовал в поисковых работах и впервые занялся исследованием радиевых руд и минерализованных вод. Весной 1930 года создал и возглавил первую крупную химическую лабораторию на Ухте, сформировав коллектив около 30 специалистов. В 1931 году был переведён на вольное поселение, а в 1932 году доставлен в Москву для доклада в СОПС о жидких радиевых рудах Ухты. Его материалы легли в основу решения о промышленном освоении месторождения. Полностью освобождён в 1934 году, судимость снята в 1936-м.

После возвращения в Москву работал в Биогеохимической лаборатории АН СССР. С 1956 по 1963 год возглавлял отдел экзогенных рудных месторождений Института геологии, петрографии, минералогии и геохимии (ИГЕМ АН СССР). Гинзбург стал одним из основоположников геохимических методов поиска полезных ископаемых в СССР и сыграл важную роль в создании сырьевой базы для никелевой промышленности Южного Урала.

Семья: сын — минералог А. И. Гинзбург (1917—1984). Умер 15 апреля 1965 года в Москве, похоронен на Новом Донском кладбище.

Награды и премии: орден Трудового Красного Знамени (1945), Сталинская премия III степени (1946), звание заслуженного деятеля науки и техники РСФСР (1957).