Родился в г. Каменец-Подольском . Интерес к математике у будущего ученого появился очень рано. Еще учеником, в 1911 г., ознакомился со статьей Н. И. Лобачевского «О началах геометрии», под влиянием которой написал свою первую работу по геометрии. В 1912—1916 гг. обучался в Киевском университете, где увлекшись алгеброй, принимал активное участие в работе алгебраического семинара, которым руководил Д. А. Граве, и продолжал исследования в области геометрии. Был оставлен при университете для подготовки к профессорскому званию.
Доктор физико-математических наук, профессор (1927 г.), член-корреспондент АН СССР (1929 г.). Некоторое время работал в Одесском, а с 1927 г. до безвременной кончины — в Казанском университетах (в последнем руководил кафедрой алгебры и был бессменным директором Научно-исследовательского института математики и механики). С 1943 г. был бессменным президентом Казанского физико-математического общества.
Основные труды относятся к алгебре и теории чисел. Решил так называемую проблему Фробениуса, получив наиболее глубокое обобщение теоремы Дирихле о простых числах в арифметической прогрессии. Исследовал вопросы теории Галуа (проблема резольвент), теорий групп Ли, диофантовых приближений, целых аналитических функций. Выполнил некоторые работы по вариационному исчислению в геометрии. Имеет много последователей. В Одессе его учениками были М.Г.Крейн, Ф.Р.Гантмахер и др. Создал известную Казанскую математическую школу, где его учениками были И. Д. Адо, В. В. Морозов, Н. Н. Мейман и др.
Автор всемирно известных монографий «Теория Галуа», «Основы теории Галуа», «Теория групп Ли». В 1949—1950 гг. издано его собрание сочинений в трех томах. В 1947 г. президиум АН СССР учредил премию им. Н, Г. Чеботарева, которая присуждается один раз в три года за лучшую работу по математике. Его именем назван Научно-исследовательский институт математики и механики при Казанском университете. Заслуженный деятель науки РСФСР, лауреат Государственной премии СССР, награжден орденом Ленина, двумя орденами Трудового Красного Знамени и медалями.