Der Begriff „grauer Hut“ wurde zum ersten Mal öffentlich im Zusammenhang mit der Computersicherheit verwendet, als die DEF CON 1996 die ersten geplanten Black Hat Briefings ankündigte, obwohl er möglicherweise schon vorher von kleineren Gruppen verwendet wurde. Außerdem wurde auf dieser Konferenz ein Vortrag gehalten, in dem Mudge, ein Schlüsselmitglied der Hackergruppe L0pht, ihre Absicht als Grey Hat Hacker erläuterte, Microsoft mit Schwachstellenentdeckungen zu versorgen, um die große Zahl der Nutzer seines Betriebssystems zu schützen. Schließlich erklärte Mike Nash, Direktor der Server-Gruppe von Microsoft, dass graue Hacker ähnlich wie die Techniker in der unabhängigen Software-Industrie sind, indem sie „uns wertvolles Feedback geben, um unsere Produkte zu verbessern“.
Der Ausdruck „grauer Hut“ wurde von der Hackergruppe L0pht 1999 in einem Interview mit der New York Times verwendet, um ihre Hacking-Aktivitäten zu beschreiben.
Der Begriff wurde verwendet, um Hacker zu beschreiben, die die ethische Meldung von Schwachstellen direkt an den Softwarehersteller unterstützen, im Gegensatz zu der in der White Hat Community vorherrschenden Praxis, Schwachstellen nicht außerhalb ihrer Gruppe offenzulegen.
Im Jahr 2002 veröffentlichte die Anti-Sec-Community jedoch die Verwendung des Begriffs für Personen, die tagsüber in der Sicherheitsbranche arbeiten, aber nachts Black Hat-Aktivitäten nachgehen. Die Ironie dabei war, dass diese Interpretation für Black Hats als abwertender Begriff angesehen wurde, während es sich bei White Hats um einen Begriff handelte, der ihnen einen gewissen Bekanntheitsgrad verlieh.
Nach dem Aufkommen und dem schließlichen Niedergang der „goldenen Ära“ der vollständigen Offenlegung vs. Anti-Sec – und dem anschließenden Wachstum einer „ethischen Hacking“-Philosophie – begann der Begriff „Grey Hat“ alle möglichen unterschiedlichen Bedeutungen anzunehmen. Die strafrechtliche Verfolgung von Dmitry Sklyarov in den USA für Aktivitäten, die in seinem Heimatland legal waren, veränderte die Einstellung vieler Sicherheitsforscher. Als das Internet für immer mehr kritische Funktionen genutzt wurde und die Besorgnis über den Terrorismus wuchs, bezog sich der Begriff „weißer Hut“ auf Sicherheitsexperten in Unternehmen, die eine vollständige Offenlegung nicht unterstützen.
Im Jahr 2008 definierte die EFF graue Hüte als ethische Sicherheitsforscher, die in ihrem Bemühen um Forschung und Verbesserung der Sicherheit unbeabsichtigt oder mutmaßlich gegen das Gesetz verstoßen. Sie setzt sich für klarere und enger gefasste Gesetze für Computerdelikte ein.