Ранні літературні спроби Ґраніна належать до другої половини 30-х років. У 1937 році в журналі «Резец» було надруковано його перші оповідання «Повернення Рульяка» та «Батьківщина», присвячені Паризькій комуні. Початком своєї професійної літературної діяльності письменник вважає публікацію 1949 року в журналі «Звезда» оповідання «Другий варіант». Перші книги Ґраніна — повісті «Суперечка через океан» (1950), «Ярослав Домбровський» (1951) і збірник нарисів про будівельників Куйбишевської ГЕС «Нові друзі» (1952).