Vermeylen studeerde in Brussel, Berlijn en Wenen. Hij promoveerde in 1899 tot speciaal doctor aan de Brusselse universiteit in geschiedenis en letterkunde (op het Nederlandstalig proefschrift Leven en werken van Jonker Jan Van der Noot.) Hij wordt er docent kunstgeschiedenis (in 1901) en vanaf 1902 tot 1923 doceert hij de geschiedenis van de Nederlandse letterkunde. Daarna is hij tot 1930 hoogleraar in de Nederlandse en moderne literatuur in Gent, waar hij de eerste rector is van de vervlaamste universiteit (1930-1932).
Vermeylen was medeoprichter van Van Nu en Straks (1896-1901) en Vlaanderen (1903-1907) (samen met Karel van de Woestijne) en stichter van het links georiënteerde Nieuw Vlaams Tijdschrift. Sinds 1919 was hij lid van de Koninklijke Vlaamse Academie. Vermeylen had een grote invloed op het culturele leven in Vlaanderen voor de Eerste Wereldoorlog.
Met vooruitziende blik verdedigde hij de visie dat de toekomst van Vlaanderen in Europees verband gezien moet worden en gebouwd moet zijn op culturele en economische krachten. Dit standpunt is kernachtig samengevat in zijn uitspraak: Vlaming zijn om Europeeër te worden.
