Родился в г. Симферополе. В школе был преуспевающим учеником. На 9-м году обучения сдает экзамены за 9 и 10-й классы и поступает на физико-математический факультет Ереванского университета, который оканчивает через три года (1947 г.) и становится аспирантом Математического института АН СССР, а менее чем через два года защищает докторскую диссертацию (научным руководителем был М. В. Келдыш). Итак, в 21 год стал самым молодым доктором наук в нашей стране. В 1953 г. избран членом-корреспондентом АН СССР, а в 1956 г.— академиком АН Армянской ССР.
Еще студентом преподавал в Ереванском университете. Затем работал в Московском университете и был директором Научно-исследовательского института математических машин Армянской ССР, в 1961—1971 гг.— в Математическом институте АН СССР, с 1971 г.— вице-президент АН Армянской ССР.
Основные труды относятся к теории функций комплексного переменного, в частности к теории равномерного приближения многочленами и рациональными функциями комплексного переменного (теоремы Мергеляна). Создал свои методы приближения многочленами и рациональными функциями.
Член КПСС с 1955 г., ведет активную общественную работу. С 1963 г.— заместитель академика-секретаря Отделения математики АН СССР, был членом ЦК ВЛКСМ, кандидатом в члены ЦК Компартии Армении, делегатом XXI съезда КПСС; депутат Верховного Совета Армянской ССР 5 и 8-го созывов; член комиссии Международного математического Союза по научному обмену. Как представитель советской науки-побывал в ряде стран за границей. В Индии встречался с Н. Винером, который сказал, что он знаком с его работами и восхищен ими. Создает свою научную школу. Среди его учеников более 25 кандидатов и докторов наук. Лауреат Государственной премии СССР, награжден орденом Трудового Красного Знамени.