1979 flyttade Gilyard till Los Angeles för att bli skådespelare. Bland annat en roll i pjäsen Bleacher Bums gjorde honom till vad en tidning kallade ”den första svarta skådespelaren att spela en cheerleader”. innan han övergick till tv-roller. Som karaktärsskådespelare har Gilyard gjort gästspel i tv-serier som Diff’rent Strokes, The Facts of Life, 227, Simon & Simon och Riptide. 1982-1983 var Gilyard med i den sista säsongen av NBC:s TV-serie CHiPs som officer Benjamin Webster, mittemot Erik Estrada. Han spelade tillsammans med Jim Carrey i 1984 års NBC-sitcom The Duck Factory. Han medverkade i en reklamfilm för McDonald’s 1987.
Gilyards filmdebut 1986 var som en F-14 Tomcat Radar Intercept Officer (RIO), LTJG Marcus ”Sundown” Williams, i Top Gun. Han var även militär i filmen The Karate Kid Part II från 1986. Han medverkade i actionfilmen Die Hard från 1988 som Theo, en dataexpert och tjuv. Han medverkade också som pastor Bruce Barnes Left Behind: The Movie och dess uppföljare Left Behind II: Tribulation Force.
Han spelade rollen som Ben Matlocks privatdetektiv, Conrad McMasters, i Matlock, mittemot Andy Griffith, från 1989 till 1993. Han ersatte Kene Holliday, som fick sparken på grund av sitt beroende av droger och alkohol. Gilyard medverkade i nästan varje Matlock-avsnitt under sina tre första säsonger i serien. När serien flyttade från NBC till ABC för seriens sjunde säsong flyttade produktionen från Los Angeles, Kalifornien till Wilmington, North Carolina. Andy Griffith föreslog för Gilyard att han också skulle flytta dit, vilket han också gjorde, innan han året därpå åkte för att arbeta på en pilot för en annan serie på CBS.
År 1993 började han en annan långvarig biroll mot Chuck Norris i Walker, Texas Ranger. Gilyard porträtterade kollegan Texas Ranger och Walkers bästa vän James ”Jimmy” Trivette. Mot slutet av serien gifte sig Norris karaktär med sin långvariga flickvän, en biträdande distriktsåklagare, medan Gilyards karaktär fick en flickvän. Gilyard hade en cameo i tv-filmen Walker, Texas Ranger från 2005:
Inom 2012, efter att ha tagit ledigt för att undervisa, började Gilyard dyka upp på skärmen igen, mestadels i oberoende projekt. År 2014 medverkade han i den religiösa filmen A Matter of Faith.
Den 17 januari 2016 spelade Gilyard rollen som Hoak Colburn på scenen i The University of New Mexico’s Popejoy Hall i The Neil Simon Festival’s Driving Miss Daisy, mittemot sin tidigare medspelare i Walker, Texas Ranger, Sheree J. Wilson.
I 2018 års upplaga av fotbollsvideospelet Madden NFL spelar Gilyard gymnasietränaren Devin Wade i avsnittet ”Longshot” i spelet. Två år senare återupptog Gilyard sin roll som den kriminella gängmedlemmen Theo från Die Hard, tillsammans med stjärnan Bruce Willis, i en reklamfilm för Advance Auto Parts bilbatterier av märket DieHard.