http://ru.wikipedia.org/wiki/Русский_мат
Поскольку формальных правил написания слов русского мата нет, рекомендуется использовать аналогии.
Примеры:
Слитное написание — нихуя = ничего, нехуй = незачем.
Раздельное написание — иди на хуй = иди на работу.
Следует обратить внимание на то, что многие матерные слова являются самостоятельными существительными, образованными без частиц.