Uttrycket grey hat användes för första gången offentligt i datasäkerhetssammanhang när DEF CON tillkännagav de första schemalagda Black Hat Briefings 1996, även om det kan ha använts av mindre grupper innan dess. Vid denna konferens gavs dessutom en presentation där Mudge, en viktig medlem av hackergruppen L0pht, diskuterade deras avsikt som grey hat-hackare att förse Microsoft med upptäckter av sårbarheter för att skydda det stora antalet användare av dess operativsystem. Slutligen förklarade Mike Nash, chef för Microsofts servergrupp, att grey hat-hackare är ungefär som tekniska personer i den oberoende programvarubranschen i det avseendet att ”de är värdefulla för att ge oss feedback så att vi kan göra våra produkter bättre”.
Uttrycket grey hat användes av hackergruppen L0pht i en intervju med New York Times 1999 för att beskriva deras hackerverksamhet.
Frasen användes för att beskriva hackare som stödjer etisk rapportering av sårbarheter direkt till programvaruleverantören, i motsats till den praxis för fullständigt avslöjande som var förhärskande inom white hat-communityn och som gick ut på att sårbarheter inte skulle avslöjas utanför deras grupp.
År 2002 publicerade dock Anti-Sec-communityn användningen av termen för att referera till personer som arbetar inom säkerhetsbranschen på dagarna, men som ägnar sig åt black hat-aktiviteter på nätterna. Det ironiska var att för svarta hattar sågs denna tolkning som en nedsättande term, medan det bland vita hattar var en term som gav en känsla av populär ryktbarhet.
Efter uppkomsten och den slutliga nedgången av den gyllene eran av full disclosure vs. anti-sec – och den efterföljande tillväxten av en filosofi om ”etisk hackning” – började termen grå hatt att få alla möjliga olika innebörder. Åtalet i USA mot Dmitry Sklyarov för verksamhet som var laglig i hans hemland förändrade attityden hos många säkerhetsforskare. I takt med att Internet började användas för mer kritiska funktioner och oron för terrorism växte började termen ”white hat” hänvisa till säkerhetsexperter på företag som inte stödde fullständigt avslöjande.
År 2008 definierade EFF grå hattar som etiska säkerhetsforskare som oavsiktligt eller tveklöst bryter mot lagen i ett försök att forska om och förbättra säkerheten. De förespråkar lagar om datorbrott som är tydligare och mer snävt avgränsade.