Nel 1979, Gilyard si trasferì a Los Angeles per diventare attore. Tra gli altri lavori, un ruolo nella commedia Bleacher Bums lo rese quello che una rivista ha definito “il primo attore nero ad interpretare una cheerleader”. prima di passare a ruoli televisivi. Come attore caratterista, Gilyard ha fatto apparizioni come ospite in programmi televisivi come Diff’rent Strokes, The Facts of Life, 227, Simon & Simon e Riptide. Nel 1982-1983, Gilyard ha partecipato alla stagione finale della serie televisiva della NBC CHiPs nel ruolo dell’agente Benjamin Webster, al fianco di Erik Estrada. Ha recitato con Jim Carrey nella sitcom della NBC del 1984 The Duck Factory. È apparso in uno spot per McDonald’s nel 1987.
Il debutto cinematografico di Gilyard nel 1986 fu nel ruolo di un ufficiale di intercettazione radar (RIO) dell’F-14 Tomcat, LTJG Marcus “Sundown” Williams, in Top Gun. Fu anche un militare nel film del 1986 The Karate Kid Part II. È apparso nel film d’azione del 1988 Die Hard nel ruolo di Theo, un esperto di computer e ladro. È apparso anche nel ruolo del reverendo Bruce Barnes Left Behind: The Movie e il suo sequel, Left Behind II: Tribulation Force.
Ha interpretato il ruolo dell’investigatore privato di Ben Matlock, Conrad McMasters, in Matlock, al fianco di Andy Griffith, dal 1989 al 1993. Sostituì Kene Holliday, che fu licenziato per la sua dipendenza da droghe e alcol. Gilyard è apparso in quasi tutti gli episodi di Matlock durante le sue prime tre stagioni nello show. Quando lo show si trasferì dalla NBC alla ABC per la settima stagione della serie, la produzione si spostò da Los Angeles, California a Wilmington, North Carolina. Andy Griffith suggerì a Gilyard di trasferirsi lì anche lui, cosa che fece, prima di partire per lavorare ad un pilota per un’altra serie alla CBS l’anno successivo.
Nel 1993, iniziò un altro ruolo da co-protagonista di lunga data accanto a Chuck Norris in Walker, Texas Ranger. Gilyard ha interpretato il collega Texas Ranger e migliore amico di Walker, James “Jimmy” Trivette. Verso la fine della serie, il personaggio di Norris sposò la sua fidanzata di lunga data, un assistente del procuratore distrettuale, mentre al personaggio di Gilyard fu data una fidanzata. Gilyard ha avuto un cameo nel film per la televisione del 2005, Walker, Texas Ranger: Trial by Fire.
Nel 2012, dopo aver preso tempo per insegnare, Gilyard ha iniziato ad apparire di nuovo sullo schermo, soprattutto in progetti indipendenti. Nel 2014, è apparso nel film religioso A Matter of Faith.
Il 17 gennaio 2016, Gilyard ha interpretato il ruolo di Hoak Colburn sul palco della Popejoy Hall dell’Università del New Mexico in Driving Miss Daisy del Neil Simon Festival, al fianco della sua ex coprotagonista di Walker, Texas Ranger, Sheree J. Wilson.
Il 17 gennaio 2016, Gilyard ha interpretato il ruolo di Hoak Colburn sul palco della Popejoy Hall dell’Università del New Mexico, nel film Driving Miss Daisy del Neil Simon Festival. Wilson.
Nell’edizione 2018 del videogioco di football Madden NFL, Gilyard interpreta l’allenatore delle scuole superiori Devin Wade nella sezione “Longshot” del gioco. Due anni dopo, Gilyard ha ripreso il suo ruolo del membro della banda criminale Theo di Die Hard, accanto alla star Bruce Willis, in uno spot per la marca di batterie per auto DieHard di Advance Auto Parts.