Микола Олексійович Грінченко народився 4 травня (за новим стилем) 1888 року в Києві в сім'ї робітника заводу "Арсенал". Батько Миколи був музично обдарованою людиною, співав у хорі Київської опери, згодом став її хормейстером.
Початкову музичну освіту (хоровий спів, диригування, фортепіано) хлопець здобув у Придворній співацькій капелі в Санкт-Петербурзі, де навчався у 1897—1901 роках.
Повернувшись до Києва, закінчив реальне училище, а 1912 року — музичне училище Російського музичного товариства. Першу наукову працю — "Українська музика та її представники" — Микола Грінченко опублікував у 1908—1909 роках у Тамбові (нині місто в Російській Федерації) в журналі "Баян".