Im Jahr 1979 zog Gilyard nach Los Angeles, um Schauspieler zu werden. Unter anderem machte ihn eine Rolle in dem Stück Bleacher Bums zu dem, was eine Zeitschrift als „den ersten schwarzen Schauspieler, der einen Cheerleader spielt“ bezeichnete, bevor er sich auf Fernsehrollen verlegte. Als Charakterdarsteller hatte Gilyard Gastauftritte in Fernsehserien wie Diff’rent Strokes, The Facts of Life, 227, Simon & Simon und Riptide. 1982-1983 war Gilyard in der letzten Staffel der NBC-Fernsehserie CHiPs als Officer Benjamin Webster zu sehen, an der Seite von Erik Estrada. 1984 spielte er zusammen mit Jim Carrey in der NBC-Sitcom The Duck Factory. Er trat 1987 in einem Werbespot für McDonald’s auf.
Gilyards Filmdebüt war 1986 als F-14 Tomcat Radar Intercept Officer (RIO), LTJG Marcus „Sundown“ Williams, in Top Gun. Außerdem spielte er 1986 in dem Film The Karate Kid Part II eine Rolle im Militär. In dem Actionfilm Stirb Langsam von 1988 spielte er Theo, einen Computerexperten und Dieb. Er trat auch als Reverend Bruce Barnes in Left Behind: The Movie und dessen Fortsetzung Left Behind II: Tribulation Force.
Von 1989 bis 1993 spielte er die Rolle von Ben Matlocks Privatdetektiv Conrad McMasters in der Serie Matlock, an der Seite von Andy Griffith. Er ersetzte Kene Holliday, der wegen seiner Drogen- und Alkoholabhängigkeit entlassen wurde. In den ersten drei Staffeln der Serie war Gilyard in fast jeder Matlock-Folge zu sehen. Als die Serie für die siebte Staffel von NBC zu ABC wechselte, zog die Produktion von Los Angeles, Kalifornien, nach Wilmington, North Carolina, um. Andy Griffith schlug Gilyard vor, ebenfalls dorthin zu ziehen, was er auch tat, bevor er im folgenden Jahr bei CBS an einem Pilotfilm für eine andere Serie mitarbeitete.
1993 begann er eine weitere langjährige Co-Hauptrolle gegenüber Chuck Norris in Walker, Texas Ranger. Gilyard verkörperte den Texas Ranger und besten Freund von Walker, James „Jimmy“ Trivette. Gegen Ende der Serie heiratete Norris‘ Figur seine langjährige Freundin, eine stellvertretende Staatsanwältin, während Gilyards Figur eine Freundin bekam. Gilyard hatte 2005 einen Cameo-Auftritt in dem Fernsehfilm Walker, Texas Ranger: Trial by Fire.
Im Jahr 2012, nachdem er eine Auszeit genommen hatte, um zu unterrichten, begann Gilyard wieder auf dem Bildschirm zu erscheinen, meist in unabhängigen Projekten. Im Jahr 2014 spielte er in dem religiösen Film A Matter of Faith mit.
Am 17. Januar 2016 spielte Gilyard die Rolle des Hoak Colburn auf der Bühne der Popejoy Hall der University of New Mexico in The Neil Simon Festival’s Driving Miss Daisy, gegenüber seinem ehemaligen Walker, Texas Ranger Co-Star, Sheree J.
In der 2018er-Ausgabe des Football-Videospiels Madden NFL spielt Gilyard den Highschool-Coach Devin Wade im „Longshot“-Teil des Spiels. Zwei Jahre später spielte Gilyard seine Rolle als kriminelles Bandenmitglied Theo aus Stirb Langsam an der Seite von Bruce Willis in einem Werbespot für Autobatterien der Marke Stirb Langsam von Advance Auto Parts.