После школы Мальцев учился в педагогическом техникуме — там его способности заметила сестра профессора НГУ, она порекомендовала ему литературу по высшей математике. Мальцев самостоятельно изучил оригинальные работы немецких математиков, и к поступлению в МГУ уже освоил университетские курсы.