En 1979, Gilyard s’installe à Los Angeles pour devenir acteur. Entre autres travaux, un rôle dans la pièce Bleacher Bums a fait de lui ce qu’un magazine a appelé « le premier acteur noir à jouer un cheerleader ». avant qu’il ne bifurque vers des rôles à la télévision. En tant qu’acteur de caractère, Gilyard a fait des apparitions dans des émissions de télévision telles que Diff’rent Strokes, The Facts of Life, 227, Simon & Simon et Riptide. En 1982-1983, Gilyard a joué le rôle de l’officier Benjamin Webster dans la dernière saison de la série télévisée CHiPs de NBC, face à Erik Estrada. Il a partagé la vedette avec Jim Carrey dans la sitcom The Duck Factory, diffusée sur NBC en 1984. Il est apparu dans une publicité pour McDonald’s en 1987.
Les débuts au cinéma de Gilyard en 1986 étaient dans le rôle d’un officier d’interception radar (RIO) de F-14 Tomcat, le LTJG Marcus « Sundown » Williams, dans Top Gun. Il a également joué le rôle d’un militaire dans le film de 1986 The Karate Kid Part II. Il est apparu dans le film d’action Die Hard de 1988 dans le rôle de Theo, un expert en informatique et voleur. Il a également joué le rôle du révérend Bruce Barnes dans Left Behind : The Movie et sa suite, Left Behind II : Tribulation Force.
Il a joué le rôle du détective privé de Ben Matlock, Conrad McMasters, dans Matlock, face à Andy Griffith, de 1989 à 1993. Il a remplacé Kene Holliday, qui a été licencié pour sa dépendance à la drogue et à l’alcool. Gilyard est apparu dans presque tous les épisodes de Matlock pendant ses trois premières saisons dans la série. Lorsque la série est passée de NBC à ABC pour la septième saison, la production a été déplacée de Los Angeles, en Californie, à Wilmington, en Caroline du Nord. Andy Griffith a suggéré à Gilyard de s’y installer également, ce qu’il a fait, avant de partir travailler sur un pilote pour une autre série chez CBS l’année suivante.
En 1993, il a commencé un autre rôle de co-starring de longue durée face à Chuck Norris dans Walker, Texas Ranger. Gilyard incarne un collègue Texas Ranger et meilleur ami de Walker, James « Jimmy » Trivette. Vers la fin de la série, le personnage de Norris se marie avec sa petite amie de longue date, une assistante du procureur du district, tandis que le personnage de Gilyard se voit attribuer une petite amie. Gilyard a fait une apparition dans le téléfilm de 2005, Walker, Texas Ranger : Trial by Fire.
En 2012, après avoir pris un congé pour enseigner, Gilyard a recommencé à apparaître à l’écran, principalement dans des projets indépendants. En 2014, il est apparu dans le film religieux A Matter of Faith.
Le 17 janvier 2016, Gilyard a interprété le rôle de Hoak Colburn sur scène au Popejoy Hall de l’Université du Nouveau-Mexique dans la pièce Driving Miss Daisy du Neil Simon Festival, face à son ancienne co-star de Walker, Texas Ranger, Sheree J. Wilson.
Dans l’édition 2018 du jeu vidéo de football Madden NFL, Gilyard incarne l’entraîneur de lycée Devin Wade dans la section « Longshot » du jeu. Deux ans plus tard, Gilyard reprend son rôle de Theo, membre d’un gang criminel de Die Hard, aux côtés de la star Bruce Willis, dans une publicité pour la marque de batteries de voiture DieHard d’Advance Auto Parts.