Родился в эвакуации в Вологодской области.
С раннего возраста увлекался рисованием. Окончил СХШ при Институте живописи, скульптуры и архитектуры имени И. Е. Репина. В дальнейшем Григорьев работал сторожем, кочегаром, дворником.
В 1971 году выпустил первую книжку детских стихов и рассказов под названием «Чудаки», ставшую популярной; по нескольким произведениям из неё были сделаны выпуски журнала «Ералаш». Многие его стихи вошли в питерский городской фольклор. Его стихи отличаются афористичностью, парадоксальностью, элементами абсурда и чёрного юмора, из-за чего его часто ставят в один ряд с Даниилом Хармсом и другими обэриутами. Однако от них Григорьев отличается большей непосредственностью, искренностью и детской ранимостью.
В 1981 году в Москве вышла вторая его детская книга — «Витамин роста». Стихи из неё вызвали негодование у некоторых представителей официальных литературных кругов и Григорьев не был принят в Союз писателей СССР.
В 1985 году Леонид Десятников написал одноактную классическую оперу для детей, для солистов и фортепиано «Витамин роста» по одноимённой поэме Олега Григорьева. В 1988 году по этой же поэме был снят одноимённый мультфильм.
Следующая книга Григорьева, «Говорящий ворон», вышла уже в перестройку, в 1989 году. За полгода до смерти был принят в Союз писателей. Уже после его смерти вышло несколько красочно оформленных книг с его произведениями, в том числе в переводе на немецкий и на французский язык.