С 1958 по 1961 год учился в аспирантуре Лаборатории измерительных приборов Академии наук СССР (позже Институт атомной энергии им. И.В. Курчатова, ныне Российский научный центр «Курчатовский институт»).
С 1961 года Велихов работал в Курчатовском институте, сначала в должности младшего научного сотрудника, с 1962 года - заведующего лабораторией, с 1970 года ‑ начальника отдела. В 1971 году он был назначен заместителем директора по научной работе Института атомной энергии (ИАЭ) им. И.В. Курчатова - директором Филиала ИАЭ им. И.В. Курчатова (в настоящее время - ГНЦ РФ ТРИНИТИ, г. Троицк Московской области). В этой должности он проработал до 1978 года.
В 1988 году стал директором ИАЭ им. И.В. Курчатова. Руководил ликвидацией последствий аварии на Чернобыльской АЭС. С 1992 года - президент Российского научного центра «Курчатовский институт».
С 1974 года ‑ академик АН СССР (РАН), в 1977 году возглавил физико-математическое отделение АН СССР, с 1978‑1997 годах был вице‑президентом отделения.
В 1983‑1990 годах – академик-секретарь Отделения информатики, вычислительной техники и автоматизации Академии наук СССР; с 2002 года – академик-секретарь Отделения информационных технологий и вычислительных систем РАН (с 2007 года – Отделение нанотехнологий и информационных технологий РАН); член президиума РАН.
С 1966 года - профессор МГУ им. М.В. Ломоносова, с 1973 по 1988 год ‑ заведующий кафедрой ядерной физики МГУ.
С 1972 года - заведующий кафедрой плазменной энергетики в Московском физико-техническом институте, с 1976 по 1986 год – декан факультета проблем физики и энергетики (ФПФЭ) в МФТИ, с 1986 года – научный руководитель ФПФЭ.
Область научных интересов Велихова: физика плазмы, управляемый термоядерный синтез, импульсные магнитогидродинамические генераторы большой мощности, энергетика, газовые и технологические лазеры. Он автор более 150 научных публикаций, ряда изобретений и открытий.
Академик Велихов удостоен многих орденов СССР и России: трех орденов Ленина, ордена Трудового Красного Знамени, ордена Мужества, ордена «За заслуги перед Отечеством» и других.
В 1992 году находящемуся в 32 млн км от Земли космическому телу присвоено официальное наименование «Малая планета N 3601 Велихов».