Иосиф Львович Райтер родился в Могилёве в бедной еврейской семье, рано начал работать и учиться самостоятельно, экстерном завершил курс гимназии, давал частные уроки в Могилёве и в Маяках. С 1912 года служил солдатом 50-го Камчатского полка, а в начале Первой мировой войны попал в австрийский плен, где провёл четыре года в лагерях Шамория и Пресбург.

В плену организовал среди интернированных образовательный «университет», участвовал в социалистической группе «Вперёд» и был заключён в тюрьму за революционную пропаганду. В 1918 году вернулся в Россию и начал партийную работу в Москве, занимая должности секретаря районных комитетов РКП(б). Затем работал в Курске и Саратове, был редактором газеты «Волна», председателем горкома, секретарём губкомов.

В 1920—1921 годах возглавлял Самаркандский областной комитет КП(б) Туркестана. С 1922 года перешёл на работу в аппарат ЦК РКП(б), руководил Информационным подотделом. В 1923—1925 годах занимал пост ответственного секретаря Рязанского губкома, где добился значительного роста численности партийной организации. Затем руководил Акмолинским и Петропавловским губкомами, где столкнулся с критикой Сталина за срыв хлебозаготовительных директив. Был делегатом XIII и XIV съездов партии.

В 1928 году представлял Коминтерн в Монголии, после чего почти десятилетие возглавлял Коммунистический университет трудящихся Востока имени Сталина, став одной из ключевых фигур подготовки кадров для азиатских компартий. Одновременно редактировал журнал «Революционный Восток», руководил сектором массовой пропаганды марксизма-ленинизма и работал заместителем заведующего Отделом культуры и пропаганды ЦК ВКП(б).

В 1935 году получил выговор от партийной контрольной комиссии. В сентябре 1938 года был арестован, в феврале 1940 года приговорён к расстрелу по обвинению в шпионаже и участии в контрреволюционной организации, казнён 4 марта 1940 года на Донском кладбище. В 1956 году реабилитирован посмертно.