Em 1979, Gilyard mudou-se para Los Angeles para se tornar actor. Entre outros trabalhos, um papel na peça Bleacher Bums fez dele o que uma revista chamou de “o primeiro ator negro a interpretar uma líder de torcida”. antes de ele seguir para papéis na televisão. Como ator de personagens, Gilyard fez aparições em programas de TV como Diff’rent Strokes, The Facts of Life, 227, Simon & Simon and Riptide. Em 1982-1983, Gilyard foi elenco na temporada final da série de TV da NBC CHiPs como Oficial Benjamin Webster, em frente a Erik Estrada. Ele co-estrelou com Jim Carrey na sitcom The Duck Factory, da NBC, em 1984. Ele apareceu num comercial para o McDonald’s em 1987.
A estreia do filme de Gilyard em 1986 foi como um F-14 Tomcat Radar Intercept Officer (RIO), LTJG Marcus “Sundown” Williams, em Top Gun. Ele também foi um militar no filme The Karate Kid Part II, de 1986. Ele apareceu no filme de ação Die Hard as Theo, de 1988, um especialista em computadores e ladrão. Ele também apareceu como o Reverendo Bruce Barnes Left Behind: The Movie and its sequel, Left Behind II: Tribulation Force.
Ele desempenhou o papel do investigador privado de Ben Matlock, Conrad McMasters, em Matlock, em frente a Andy Griffith, de 1989 a 1993. Ele substituiu Kene Holliday, que foi demitido por sua dependência de drogas e álcool. Gilyard apareceu em quase todos os episódios de Matlock durante as suas três primeiras temporadas no programa. Quando o programa se mudou da NBC para a ABC para a sétima temporada da série, a produção mudou de Los Angeles, Califórnia, para Wilmington, na Carolina do Norte. Andy Griffith sugeriu a Gilyard que ele também se mudasse para lá, o que ele fez, antes de partir para trabalhar em um piloto para outra série na CBS no ano seguinte.
Em 1993, ele começou outro papel de co-estrela de longa data em frente a Chuck Norris em Walker, Texas Ranger. Gilyard retratou o companheiro Texas Ranger e melhor amigo de Walker, James “Jimmy” Trivette. Perto do final da série, o personagem de Norris casou-se com sua namorada de longa data, uma assistente do promotor público, enquanto o personagem de Gilyard recebeu uma namorada. Gilyard teve uma aparição no filme de televisão de 2005, Walker, Texas Ranger: Trial by Fire.
Em 2012, depois de tirar um tempo para ensinar, Gilyard começou a aparecer na tela novamente, principalmente em projetos independentes. Em 2014, ele apareceu no filme religioso A Matter of Faith.
Em 17 de janeiro de 2016, Gilyard interpretou o papel de Hoak Colburn no palco do Popejoy Hall da Universidade do Novo México, no The Neil Simon Festival Driving Miss Daisy, em frente à sua antiga Walker, co-estrela do Texas Ranger, Sheree J. Wilson.
Na edição de 2018 do videogame de futebol Madden NFL, Gilyard joga com o treinador do liceu Devin Wade na secção “Longshot” do jogo. Dois anos mais tarde, Gilyard repreendeu o seu papel de membro de gangue criminoso Theo do Die Hard, ao lado da estrela Bruce Willis, num anúncio da marca de baterias DieHard da Advance Auto Parts.