Slovní spojení grey hat bylo poprvé veřejně použito v souvislosti s počítačovou bezpečností, když DEF CON v roce 1996 oznámil první plánované briefingy Black Hat, ačkoli jej možná používaly menší skupiny již předtím. Na této konferenci navíc zazněla prezentace, v níž Mudge, klíčový člen hackerské skupiny L0pht, hovořil o jejich záměru jako hackerů šedého klobouku poskytnout společnosti Microsoft objevy zranitelností, aby ochránili obrovské množství uživatelů jejího operačního systému. Nakonec Mike Nash, ředitel serverové skupiny společnosti Microsoft, prohlásil, že šedí hackeři jsou podobně jako techničtí lidé v nezávislém softwarovém průmyslu v tom smyslu, že „jsou cenní tím, že nám poskytují zpětnou vazbu, abychom mohli naše produkty vylepšovat“.
Frázi šedý klobouk použila hackerská skupina L0pht v roce 1999 v rozhovoru pro The New York Times k popisu svých hackerských aktivit.
Slovní spojení bylo použito k popisu hackerů, kteří podporují etické oznamování zranitelností přímo výrobci softwaru, na rozdíl od praktik úplného zveřejnění, které převládaly v komunitě bílých klobouků, že zranitelnosti nesmí být zveřejňovány mimo jejich skupinu.
V roce 2002 však komunita Anti-Sec zveřejnila použití tohoto termínu k označení lidí, kteří přes den pracují v bezpečnostním průmyslu, ale v noci se věnují aktivitám černého klobouku. Ironií bylo, že pro černé klobouky byl tento výklad vnímán jako hanlivý termín; zatímco mezi bílými klobouky šlo o termín, který dodával pocit populární proslulosti.
Po vzestupu a nakonec úpadku „zlaté éry“ plného odhalení vs. anti-sec – a následném růstu filozofie „etického hackingu“ – začal termín šedý klobouk nabývat nejrůznějších významů. Trestní stíhání Dmitrije Skljarova v USA za činnosti, které byly v jeho vlasti legální, změnilo postoje mnoha bezpečnostních výzkumníků. S tím, jak se internet začal používat pro více kritických funkcí a rostly obavy z terorismu, začal termín „bílý klobouk“ označovat firemní bezpečnostní experty, kteří nepodporovali úplné odhalení.
V roce 2008 definovala organizace EFF šedé klobouky jako etické bezpečnostní výzkumníky, kteří neúmyslně nebo pravděpodobně porušují zákony ve snaze zkoumat a zlepšit bezpečnost. Obhajují zákony o počítačových přestupcích, které jsou jasnější a úžeji vymezené.