In 1979 verhuisde Gilyard naar Los Angeles om acteur te worden. Een rol in het toneelstuk Bleacher Bums maakte hem tot “de eerste zwarte acteur die een cheerleader speelt”, zoals een tijdschrift het noemde, voordat hij zich ging toeleggen op televisierollen. Als karakteracteur maakte Gilyard gastoptredens in tv-shows als Diff’rent Strokes, The Facts of Life, 227, Simon & Simon en Riptide. In 1982-1983 was Gilyard te zien in het laatste seizoen van de NBC TV-serie CHiPs als agent Benjamin Webster, tegenover Erik Estrada. Hij speelde samen met Jim Carrey in de NBC-sitcom The Duck Factory van 1984. Hij verscheen in een reclamespot voor McDonald’s in 1987.
Gilyard’s filmdebuut in 1986 was als een F-14 Tomcat Radar Intercept Officier (RIO), LTJG Marcus “Sundown” Williams, in Top Gun. Hij was ook een militair in de film The Karate Kid Part II uit 1986. Hij verscheen in de 1988 actiefilm Die Hard als Theo, een computerexpert en dief. Hij verscheen ook als dominee Bruce Barnes Left Behind: The Movie en het vervolg daarop, Left Behind II: Tribulation Force.
Hij speelde de rol van Ben Matlock’s privé-detective, Conrad McMasters, in Matlock, tegenover Andy Griffith, van 1989 tot 1993. Hij verving Kene Holliday, die was ontslagen vanwege zijn afhankelijkheid van drugs en alcohol. Gilyard verscheen in bijna elke Matlock aflevering gedurende zijn eerste drie seizoenen in de show. Toen de show van NBC naar ABC verhuisde voor het zevende seizoen van de serie, verhuisde de productie van Los Angeles, Californië naar Wilmington, North Carolina. Andy Griffith stelde aan Gilyard voor om ook daarheen te verhuizen, wat hij ook deed, voordat hij het jaar daarop vertrok om te werken aan een pilot voor een andere serie op CBS.
In 1993 begon hij aan een andere lange co-rol tegenover Chuck Norris in Walker, Texas Ranger. Gilyard portretteerde collega Texas Ranger en beste vriend van Walker, James “Jimmy” Trivette. Tegen het einde van de serie trouwde Norris’ personage met zijn oude vriendin, een assistent-districtsadvocaat, terwijl Gilyard’s personage een vriendin kreeg. Gilyard speelde een cameo in de tv-film Walker, Texas Ranger uit 2005: Trial by Fire.
In 2012, na een tijdje vrij te hebben genomen om les te geven, begon Gilyard weer op het scherm te verschijnen, meestal in onafhankelijke projecten. In 2014 verscheen hij in de religieuze film A Matter of Faith.
Op 17 januari 2016 vertolkte Gilyard de rol van Hoak Colburn op het podium van The University of New Mexico’s Popejoy Hall in The Neil Simon Festival’s Driving Miss Daisy, tegenover zijn voormalige Walker, Texas Ranger co-star, Sheree J. Wilson.
In de 2018 editie van het voetbal videospel Madden NFL, speelt Gilyard high-school coach Devin Wade in het “Longshot” gedeelte van het spel. Twee jaar later herhaalde Gilyard zijn rol als crimineel bendelid Theo uit Die Hard, naast ster Bruce Willis, in een commercial voor Advance Auto Parts’ DieHard merk van autoaccu’s.