[C#]解决读写包含汉字的txt文件时乱码的问题

8/10/2005来源:C#应用人气:29448

作者:袁晓辉(版权所有)

时间:2005-8-8


    当我们用System.IO.StreamReader读取包含汉字的txt文件时,经常会读出乱码(StreamWriater写文本文件也

有类似的问题),原因很简单,就是文件的编码(encoding)和StreamReader/Writer的encoding不对应。

    为了解决这个问题,我写了一个类,来取得一个文本文件的encoding,这样我们就可以创建对应的

StreamReader和StreamWriter来读写,保证不会出现乱码现象。其实原理很简单,文本编辑器(比如XP自带的记事

本)在生成文本文件时,如果编码格式和系统默认的编码(中文系统下默认为GB2312)不一致时,会在txt文件开头

部分添加特定的“编码字节序标识(Encoding Bit Order Madk,简写为BOM)”,类似PE格式的"MZ"文件头。这样

它在读取时就可以根据这个BOM来确定该文本文件生成时所使用的Encoding。这个BOM我们用记事本等程序打开默认

是看不到的,但是用stream按字节读取时是可以读到的。我的这个TxtFileEncoding类就是根据这个BOM“文件头”

来确定txt文件生成时用到的编码的。

//  作者:袁晓辉

 


//  2005-8-8

 

// // // // // //

 

using System;

 

using System.Text;

 

using System.IO;

 

namespace FarPRoc.Text

 


{

 

    /// <summary>

 


    /// 用于取得一个文本文件的编码方式(Encoding)。

 


    /// </summary>

 

    public class TxtFileEncoding

 

    {


        public TxtFileEncoding()


        {

 

            //

 

            // TODO: 在此处添加构造函数逻辑

 

            //

 

        }

 

        /// <summary>

 

        /// 取得一个文本文件的编码方式。如果无法在文件头部找到有效的前导符,Encoding.Default将被返回。

 

        /// </summary>

 

        /// <param name="fileName">文件名。</param>

 

        /// <returns></returns>

 

        public static Encoding GetEncoding(string fileName)

 


        {

 

            return GetEncoding(fileName, Encoding.Default);

 

        }

 

        /// <summary>

 

        /// 取得一个文本文件流的编码方式。

 

        /// </summary>

 

        /// <param name="stream">文本文件流。</param>

 

        /// <returns></returns>


        public static Encoding GetEncoding(FileStream stream)

 

        {


            return GetEncoding(stream, Encoding.Default);


        }

 

        /// <summary>

 

        /// 取得一个文本文件的编码方式。

 

        /// </summary>

 

        /// <param name="fileName">文件名。</param>

 


        /// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时,将返回该编码方式。</param>

 


        /// <returns></returns>


        public static Encoding GetEncoding(string fileName, Encoding defaultEncoding)


        {

            FileStream fs = new FileStream(fileName, FileMode.Open);


            Encoding targetEncoding = GetEncoding(fs, defaultEncoding);

            fs.Close();

            return targetEncoding;

 

        }


        /// <summary>

 

        /// 取得一个文本文件流的编码方式。


        /// </summary>

 

        /// <param name="stream">文本文件流。</param>


        /// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时,将返回该编码方式。</param>


        /// <returns></returns>

 


        public static Encoding GetEncoding(FileStream stream, Encoding defaultEncoding)

 

        {


            Encoding targetEncoding = defaultEncoding;


            if(stream != null && stream.Length >= 2)

 

            {


                //保存文件流的前4个字节


                byte byte1 = 0;


                byte byte2 = 0;


                byte byte3 = 0;


                byte byte4 = 0;

 

                //保存当前Seek位置


                long origPos = stream.Seek(0, SeekOrigin.Begin);


                stream.Seek(0, SeekOrigin.Begin);

 

                int nByte = stream.ReadByte();


                byte1 = Convert.ToByte(nByte);

 

                byte2 = Convert.ToByte(stream.ReadByte());

 

                if(stream.Length >= 3)

 

                {


                    byte3 = Convert.ToByte(stream.ReadByte());


                }


                if(stream.Length >= 4)


                {


                    byte4 = Convert.ToByte(stream.ReadByte());


                }

 

                //根据文件流的前4个字节判断Encoding

 

                //Unicode {0xFF, 0xFE};


                //BE-Unicode {0xFE, 0xFF};


                //UTF8 = {0xEF, 0xBB, 0xBF};


                if(byte1 == 0xFE && byte2 == 0xFF)//UnicodeBe


                {


                    targetEncoding = Encoding.BigEndianUnicode;


                }


                if(byte1 == 0xFF && byte2 == 0xFE && byte3 != 0xFF)//Unicode


                {


                    targetEncoding = Encoding.Unicode;


                }


                if(byte1 == 0xEF && byte2 == 0xBB && byte3 == 0xBF)//UTF8


                {

                    targetEncoding = Encoding.UTF8;


                }


                //恢复Seek位置      


                stream.Seek(origPos, SeekOrigin.Begin);


            }


            return targetEncoding;


        }


    }


}


    由于在GB2312和UTF7编码都没有BOM,所以需要指定一个默认的Encoding,在找不到合法的BOM时,将返回这个

Encoding。有谁知道如何区分GB2312和UTF7编码txt文件的方法,也请告诉我。

    由于只是static方法,所以不用new,直接通过类名调用方法,使用起来也很简单。

using System;

using Farproc.Text;

using System.Text;

using System.IO;

namespace Consoleapplication1


{

    /// <summary>


    /// Class1 的摘要说明。


    /// </summary>

 

    class Class1


    {


        /// <summary>

        /// 应用程序的主入口点。

        /// </summary>

        [STAThread]

        static void Main(string[] args)

       {

            //


            // TODO: 在此处添加代码以启动应用程序

 

            //


            string fileName = @"e:\a.txt";


            //生成一个big endian Unicode编码格式的文本文件


            StreamWriter sw = new StreamWriter(fileName, false, Encoding.BigEndianUnicode);//你可以试试其他编码,比如Encoding.GetEncoding("GB2312")或UTF8

 

            sw.Write("这是一个String");


           sw.Close();


            //读取

           Encoding fileEncoding = TxtFileEncoding.GetEncoding(fileName, Encoding.GetEncoding("GB2312"));//取得这txt文件的编码

            Console.WriteLine("这个文本文件的编码为:" + fileEncoding.EncodingName);


            StreamReader sr = new StreamReader(fileName, fileEncoding);//用该编码创建StreamReader

 

            //用下面的方法虽然可以让系统自动判断文本文件的编码格式,但是我们无法取得该文本文件的编码


            //sr.CurrentEncoding永远为 Unicode(UTF-8)

            //StreamReader sr = new StreamReader(fileName, true);


            //Console.WriteLine("这个文本文件的编码为:" + sr.CurrentEncoding.EncodingName);

 


            Console.WriteLine("这个文本文件的内容为:" + sr.ReadToEnd());

 

            sr.Close();

 

            Console.ReadLine();

 


        }

 


    }

 

 

}

 


    .NET下的string永远是Unicode的,所以只能判断txt文件的Encoding。对于byte[],只有自己知道它的

Encoding才能转换为string 转换为其他编码的byte[],一个例外是把整个txt文件通过stream读入byte[]后也可以根据它的前几个字节判断

Encoding,对于片断,我们就无能为力了:)