1987年他主演了非百老汇音乐剧《天堂鸟》，1990年又出演了自己首部百老汇剧目《继承人的改变》。日子久了，在西蒙斯以为自己一辈子都不会离开舞台的时候，他的命运再次发生转机。1997年HBO电视剧《监狱风云》播出，他在其中扮演一名新纳粹分子，这个角色给观众留下深刻印象。《监狱风云》不是西蒙斯的第一部电视剧，之前他为了生计也经常客串各种剧集，不过那些都是龙套，这是他第一次受到关注。此后，西蒙斯又相继出演电视剧《法律与秩序》《罪案终结》等，成为电视上的“熟脸”。
IMDB上曾做过一系列视频，叫做“没有小角色”，展示了成名影星早年间那些不为人知的角色。几乎每一个明星演员都是这么摸爬滚打、靠着无数小角色的积累开始的。J·K·西蒙斯的大银幕之路同样如此。他曾自嘲不如布拉德·皮特、乔治·克鲁尼好看，所以注定是演配角的命，永远也成不了主角。当然，西蒙斯不认为这就一定是坏事，因为他更在意自己塑造的角色能否得到观众承认——他的终极目标就是让观众忘掉他，而只记得他演的角色。
3 59岁凭《爆裂鼓手》收获奥斯卡
2012年Right of Way和Blumhouse制片公司买下了达米恩·查泽尔的电影剧本《爆裂鼓手》，这个根据查泽尔自己经历创作的剧本讲述了一个爵士鼓手和他的指挥老师之间的故事。
杰森·雷特曼当时是这个电影项目的制片人之一，为了吸引到投资人，他和公司决定把剧本的15页内容抽出来，单独拍成短片。杰森·雷特曼第一时间就想到让J·K·西蒙斯来演“指挥”，他把短片剧本和完整剧本都发给了西蒙斯，西蒙斯被达米恩·查泽尔的才气打动，欣然同意。这部18分钟的短片在2013年圣丹斯电影节上首映，并获得评委会的短片奖。之后《爆裂鼓手》的电影长片也顺利融资开拍。
不过电影版有个问题：投资人希望找更有名气的演员来担任主演。短片里扮演“鼓手”的演员约翰尼·西蒙斯已经被迈尔斯·泰勒代替，J·K·西蒙斯每天都在担心“指挥”这个角色也会换人。当时电影公司的确想换成更有票房保障的演员，他们提出了好几个人选，包括凯文·克莱恩、凯文·史贝西和杰夫·丹尼尔斯。但是杰森·雷特曼坚定地站在自己老朋友这边，他和几位制片人都坚持让西蒙斯继续饰演“指挥”一角。
