Уроженец Баку и выпускник Московского нефтяного института имени И. М. Губкина, в 1952 году он приехал на работу в «Татнефть», где прошел путь от помощника мастера по добыче нефти до главного инженера объединения (1964–1972 гг.).
В то время это был главный нефтедобывающий район СССР. В 1970 году Татарская АССР вышла на уровень добычи 100,4 млн тонн нефти, а через год отпраздновала извлечение первого миллиарда тонн нефти с начала промышленной добычи.
Под техническим руководством Валерия Грайфера «Татнефть» заняла ведущие позиции в отрасли по автоматизации производства. В 1976 году он с группой специалистов был удостоен Ленинской премии за работу «Перевооружение нефтедобывающего производства на основе новых научно-технических решений и комплексной автоматизации, обеспечившие высокие темпы роста добычи нефти».
В 1972-1985 гг. Валерий Грайфер работал начальником планово-экономического управления Министерства нефтяной промышленности СССР. В то время это была ключевая должность по подготовке отраслевых планов добычи нефти и финансирования отрасли.
Как вспоминал Грайфер, одна из острых проблем того времени — заниженная цена на нефть, в то время не превышавшая 25 рублей. В связи с этим складывалась парадоксальная ситуация: все программы по освоению новых месторождений были изначально убыточными.
Тогда под началом Грайфера удалось разработать и принять критерий оценки эффективности новых проектов, так называемый коэффициент народнохозяйственного эффекта. Этот показатель выводил нефтяников на уровень 70-90 рублей за тонну. Вопрос о заведомой неэффективности был снят.
В 1984 году впервые за всю послевоенную историю нефтяная промышленность СССР показала отрицательный рост (-4 млн тонн), а в 1985 году добыча нефти упала в Западной Сибири (-12,7 млн тонн). Нагрузка на несколько гигантских месторождений превысила все допустимые нормы, и надо было переходить к разработке обычных месторождений, для чего требовались соответствующие капитальные вложения.
Спасать ситуацию был направлен Валерий Грайфер, которого в 1985 году назначили начальником «Главтюменнефтегаза». С группой единомышленников ему удалось убедить руководство страны изменить стратегию освоения Западной Сибири.
Всего за три года нефтяники вышли на рекордные уровни. Если в 1985 году бурили 17 млн метров и вводили 5650 новых скважин, то в 1988 году эти показатели составили соответственно 27,6 млн метров и 9954 скважин. Если в середине 1980-х годов «Главтюменнефтегаз» добывал 365 млн тонн, то в 1988 году — почти 409 млн тонн.
В 1992 году Валерий Грайфер создал Российскую инновационную топливно-энергетическую компанию (РИТЭК). По его словам, в то время слово «инновация» резало слух, чтобы разобраться люди смотрели толковые словари.
Первоначально компания сосредоточилась на сервисных работах, ремонтировала простаивающие скважины. А в 1994 году стала компанией-недропользователем, приобрела лицензию на Восточно-Перевальное месторождение в Западной Сибири. В РИТЭКе всегда подчеркивали, что в 1990-е годы компания создавалась без приватизационного ресурса, а их сырьевую базу составили сложные месторождения, на которых требовались специальные подходы и технологии.
В начале нового тысячелетия, еще до первых результатов сланцевой революции в США, Валерий Грайфер увлекся темой освоения баженовской свиты. РИТЭК успешно ведет опытно-промышленные работы на Средне-Назымском месторождении и значительно продвинулся в решении принципиальных методологических и технологических вопросов разработки нефтематеринских пород.
С 2000 года Валерий Грайфер возглавляет совет директоров компании ЛУКОЙЛ, его часто называют учителем основателя компании Вагита Алекперова.
В 2007 году президент России Владимир Путин наградил Валерия Грайфера орденом «За заслуги перед Отечеством» 3-й степени, а в 2015 году — орденом Александра Невского.
Помимо этого Грайфер награжден еще пятью орденами, четырьмя медалями, Почетной грамотой Президента РФ, является Лауреатом Ленинской премии и премии Правительства РФ. Удостоен званий Почетного нефтяника и Почетного работника топливно-энергетического комплекса Министерства энергетики Российской Федерации.