Les premières œuvres de type réaliste, traitées au couteau à palette, témoignent d'une liberté de facture et d'une maîtrise chromatique peu communes. Dans les tableaux de la période dite "bourgeoise" (1878-1884), le jeune peintre donne priorité à la mise en valeur des masses colorées par rapport à l'air où elles baignent.

Il invente ainsi en Belgique une nouvelle manière d'écrire la peinture, destinée à capter la fluidité des choses, une manière qui peut être qualifiée d'impressionnisme autochtone (Ensor eut tendance à mépriser l'impressionnisme français et surtout le néo-impressionnisme), un impressionnisme qui naît dans la lumière tamisée des intérieurs, cependant porteur de couleurs franches et de touches lestes.

Sa poétique de la lumière le conduit à traiter la matière picturale de manière transparente et déliée; l'artiste ressuscite ainsi le beau métier de Rubens superposant ici les glacis qui confèrent aux zones d'ombre leur densité, accrochant là les éclats lumineux par de savoureux empâtements (au Musée royal des Beaux-Arts d'Anvers : La conversation, Après-midi à Ostende, Dames à l'éventail, Le salon bourgeois, La mangeuse d'huîtres; aux Musées royaux de Bruxelles : La dame en bleu, La dame sombre, La musique russe).

Dès 1883, à côté des natures mortes (La raie), des paysages et des marines, apparaît un nouveau thème qui affranchit l'imagination et l'humour de l'artiste : le masque (Les masques scandalisés).

Au moment d'entrer aux XX, le jeune Ensor, tenu pour fantasque, décontenance par ses volte-face stylistiques, fait croire à la vulgarité par des déformations caricaturales, prend désormais prétexte de son art pour se moquer ouvertement des bassesses de ses contemporains. Diableries à la Bosch (Le foudroiement des anges rebelles), visions de rêve à la Watteau (Le jardin d'amour, Carnaval sur la plage), sujets tour à tour symboliques et satiriques, le peintre transcende tous les sujets par l'originalité de son jeune génie et une facture toute personnelle : couleurs aux tonalités irisées et de plus en plus vives, employées à leur maximum d'intensité, souvent mélangées à des blancs audacieux, schématisme expressif des formes, tout cela préfigure directement l'expressionnisme nordique et le fauvisme.

De telles audaces culminent dans son chef-d'œuvre L'entrée du Christ à Bruxelles (1888), vaste composition panoramique où le peintre s'identifie au Christ acclamé et bientôt lynché par une foule délirante et grotesque, affublée de masques; à ce moment-là, Ensor est certainement le peintre le plus avant-gardiste de son temps, alors que Van Gogh et Gauguin s'apprêtent seulement à inventer le style qui fit leur gloire.

Certaines œuvres préfigurent directement la peinture gestuelle et informelle du XXe siècle (Le Christ apaisant la tempête). A la fois tragique et bouffon, l'œuvre d'Ensor maltraite la bienséance de son temps à l'aide de traits féroces et de situations symboliques liées au masque (Les masques singuliers), au squelette (Squelettes voulant se chauffer) et à divers sujet religieux (Adam et Ève chassés du paradis terrestre ainsi que de nombreux dessins et gravures).

Dans sa correspondance et ses écrits pamphlétaires, Ensor témoigne également d'une invention extraordinaire; ses "éjaculations verbales" sont pleines de néologismes truculents et drôlatiques.

Créateur inclassable, grand précurseur de l'art du XXe siècle comme Munch, Van Gogh ou Gauguin, il fait partie comme eux de cette cohorte d'artistes inquiets et névrosés qui suscitèrent une radicalisation des positions psychologiques et esthétiques de l'art moderne.