本校創立於西元1895年，初名芝山巖學堂，翌年改稱臺灣總督府國語學校，1919年改名為臺灣總督府臺北師範學校。1927年分割為臺灣總督府臺北第一師範學校（今臺北市立大學的前身，南門校區）、臺灣總督府臺北第二師範學校（今國立臺北教育大學的前身，芳蘭校區），1943年兩校再合併為臺灣總督府臺北師範學校（南門校區收預科及女子部，芳蘭校區收本科生；日治時期國語學校及臺北師範學校的學籍簿全部移至芳蘭校區，即今國立臺北教育大學校區）。1945年日本戰敗，本校更名為臺灣省立臺北師範學校，1961年改制為臺灣省立臺北師範專科學校，1987年升格改制為臺灣省立臺北師範學院，1991年改隸為國立臺北師範學院，2005年升格改制為國立臺北教育大學。