ご指摘ありがとうございます。
Firefox で16進数で指定してはいけないというわけではありませんので、ご注意下さい。
現在の Firefox では HTML編集時の色指定に rgb() を使うのですが、この指定方法が HTML4.01 には規定されていないために、背景色と色の style を bgcolor/color 属性に変換するとこれら属性が無視されてしまう、ということではないかと思います。
(検証したわけではありませんのでただの推測ですが...。)
さて、ご指摘の問題ですが、確かに Firefox ではそのようになりました。Firefox では選択されたテキストを過不足なく含む最も上流の親要素に対して装飾を行うため(?)、こうした挙動になるようです。
ただ、残念ではありますが、適用先要素をコントロールする方法がわかりませんでした。取り急ぎ運用上の工夫で対処していただければと思います。
(ちなみに、弊社で直接取り扱う案件については、読みやすさを保つため、お客様にあまり文字に色や背景色をつけないようお願いしております。)
もちろん、MITライセンスで配付されているスクリプトですので、必要であれば御社内で修正・改善することが可能です。
とはいえ、できましたら、今後解決策が見つかりましたとき、こちらのフォーラムやコメント欄などで、その解決策についてご教授いただければとても助かります。
おかげさまで弊社開発者ブログを通じて nicEdit.js 日本語版を利用されている方も少なからずいらっしゃるようですので、みなさんにとってもたいへん有益かと思います。
この点については、弊社も開発元に無断で改修している立場上、少々悩ましく思っているところです。
(語学力があればオリジナル版サイトに改善点についてコメントしたいところではあるのですが。。。オリジナル版はもうほとんど放置されているようですし、どう修正を還元すればいいものやら。。。)
また何かお気づきの点がありましたらご指摘いただけると幸いです。今後ともよろしくお願い申し上げます。