字元集

字元(Character)是各種文字和符號的總稱，包括各國家文字、標點符號、圖形符號、數字等。字元集(Character set)是多個字元的集合，字元集種類較多，每個字元集包含的字元個數不同，常見字元集名稱：ASCII字元集、GB2312字元集、BIG5字元集、 GB18030字元集、Unicode字元集等。計算機要準確的處理各種字元集文字，就需要進行字元編碼，以便計算機能夠識別和存儲各種文字。中文文字數目大，而且還分為簡體中文和繁體中文兩種不同書寫規則的文字，而計算機最初是按英語單位元組字元設計的，因此，對中文字元進行編碼，是中文信息交流的技術基礎。

基本介紹

• 中文名：字元集
• 外文名：Character set
• 定義：多個字元的集合
• 種類：ASCII,GB2312,BIG5,GB18030等

ASCII

名稱由來

ASCII（American Standard Code for Information Interchange，美國信息互換標準編碼）是基於羅馬字母表的一套電腦編碼系統。

特點

它主要用於顯示現代英語和其他西歐語言。它是現今最通用的單位元組編碼系統，並等同於國際標準ISO 646。

包含內容

控制字元：回車鍵、退格、換行鍵等。

可顯示字元：英文大小寫字元、阿拉伯數字和西文符號。

技術特徵

7位（bits）表示一個字元，共128字元，字元值從0到127，其中32到126是可列印字元。

擴展字元集

7位編碼的字元集只能支持128個字元，為了表示更多的歐洲常用字元對ASCII進行了擴展，ASCII擴展字元集使用8位（bits）表示一個字元，共256字元。

ASCII擴展字元集：它是從ASCII字元集擴充出來的，擴充後的符號增加了表格符號、計算符號、希臘字母和特殊的拉丁符號。

GB2312

名稱由來

GB2312又稱為GB2312-80字元集，全稱為《信息交換用漢字編碼字元集·基本集》，由原中國國家標準總局發布，1981年5月1日實施。

特點

GB2312是中國國家標準的簡體中文字元集。它所收錄的漢字已經覆蓋99.75%的使用頻率，基本滿足了漢字的計算機處理需要。在中國大陸和新加坡獲廣泛使用。

包含內容

GB2312收錄簡化漢字及一般符號、序號、數字、拉丁字母、日文假名、希臘字母、俄文字母、漢語拼音符號、漢語注音字母，共 7445 個圖形字元。其中包括6763個漢字，其中一級漢字3755個，二級漢字3008個；包括拉丁字母、希臘字母、日文平假名及片假名字母、俄語西里爾字母在內的682個全形字元。

技術特徵

（1）分區表示：

GB2312中對所收漢字進行了“分區”處理，每區含有94個漢字/符號。這種表示方式也稱為區位碼。

各區包含的字元如下：01-09區為特殊符號；16-55區為一級漢字，按拼音排序；56-87區為二級漢字，按部首/筆畫排序；10-15區及88-94區則未有編碼。

（2）雙位元組表示

兩個位元組中前面的位元組為第一位元組，後面的位元組為第二位元組。習慣上稱第一位元組為“高位元組” ，而稱第二位元組為“低位元組”。

“高位位元組”使用了0xA1-0xF7(把01-87區的區號加上0xA0)，“低位位元組”使用了0xA1-0xFE(把01-94加上0xA0)。

編碼舉例

以GB2312字元集的第一個漢字“啊”字為例，它的區號16，位號01，則區位碼是1601，在大多數電腦程式中，高位元組和低位元組分別加0xA0得到程式的漢字處理編碼0xB0A1。計算公式是：0xB0=0xA0+16, 0xA1=0xA0+1。

BIG5

名稱由來

又稱大五碼或五大碼，1984年由台灣財團法人信息工業策進會和五家軟體公司宏碁 (Acer)、神通 (MiTAC)、佳佳、零壹 (Zero One)、大眾 (FIC)創立，故稱大五碼。

Big5碼的產生，是因為當時台灣不同廠商各自推出不同的編碼，如倚天碼、IBM PS55、王安碼等，彼此不能兼容；另一方面，台灣政府當時尚未推出官方的漢字編碼，而中國大陸的GB2312編碼亦未有收錄繁體中文字。

特點

Big5字元集共收錄13,053箇中文字，該字元集在中國台灣使用。耐人尋味的是該字元集重複地收錄了兩個相同的字：“兀”(0xA461及0xC94A)、“嗀”(0xDCD1及0xDDFC)。

編碼方法

Big5碼使用了雙位元組儲存方法，以兩個位元組來編碼一個字。第一個位元組稱為“高位位元組”，第二個位元組稱為“低位位元組”。高位位元組的編碼範圍0xA1-0xF9，低位位元組的編碼範圍0x40-0x7E及0xA1-0xFE。

各編碼範圍對應的字元類型如下：0xA140-0xA3BF為標點符號、希臘字母及特殊符號，另外於0xA259-0xA261，存放了雙音節度量衡單位用字：兙兛兞兝兡兣嗧瓩糎；0xA440-0xC67E為常用漢字，先按筆劃再按部首排序；0xC940-0xF9D5為次常用漢字，亦是先按筆劃再按部首排序。

局限性

儘管Big5碼內包含一萬多個字元，但是沒有考慮社會上流通的人名、地名用字、方言用字、化學及生物科等用字，沒有包含日文平假名及片假名字母。

例如台灣視“著”為“著”的異體字，故沒有收錄“著”字。康熙字典中的一些部首用字(如“亠”、“疒”、“辵”、“癶”等)、常見的人名用字(如“堃”、“煊”、“栢”、“喆”等) 也沒有收錄到Big5之中。

GB18030

名稱由來

GB 18030的全稱是GB18030-2000《信息交換用漢字編碼字元集基本集的擴充》，是我國政府於2000年3月17日發布的新的漢字編碼國家標準，2001年8月31日後在中國市場上發布的軟體必須符合本標準。

特點

GB 18030字元集標準的出台經過廣泛參與和論證，來自國內外知名信息技術行業的公司，信息產業部和原國家質量技術監督局聯合實施。

GB18030 字元集

GB 18030字元集標準解決漢字、日文假名、朝鮮語和中國少數民族文字組成的大字元集計算機編碼問題。該標準的字元總編碼空間超過150萬個編碼位，收錄了27484個漢字，覆蓋中文、日文、朝鮮語和中國少數民族文字。滿足中國大陸、香港、台灣、日本和韓國等東亞地區信息交換多文種、大字量、多用途、統一編碼格式的要求。並且與Unicode 3.0版本兼容，填補Unicode擴展字元字彙“統一漢字擴展A”的內容。並且與以前的國家字元編碼標準（GB2312，GB13000.1）兼容。

編碼方法

GB 18030標準採用單位元組、雙位元組和四位元組三種方式對字元編碼。單位元組部分使用0×00至0×7F碼(對應於ASCII碼的相應碼)。雙位元組部分，首位元組碼從0×81至0×FE，尾位元組碼位分別是0×40至0×7E和0×80至0×FE。四位元組部分採用GB/T 11383未採用的0×30到0×39作為對雙位元組編碼擴充的後綴，這樣擴充的四位元組編碼，其範圍為0×81308130到0×FE39FE39。其中第一、三個位元組編碼碼位均為0×81至0×FE，第二、四個位元組編碼碼位均為0×30至0×39。

包含內容

雙位元組部分收錄內容主要包括GB13000.1全部CJK漢字20902個、有關標點符號、表意文字描述符13個、增補的漢字和部首/構件80個、雙位元組編碼的歐元符號等。　四位元組部分收錄了上述雙位元組字元之外的，包括CJK統一漢字擴充A在內的GB 13000.1中的全部字元。

Unicode

名稱由來

Unicode字元集編碼是Universal Multiple-Octet Coded Character Set 通用多八位編碼字元集的簡稱，是由一個名為 Unicode 學術學會(Unicode Consortium)的機構制訂的字元編碼系統，支持現今世界各種不同語言的書面文本的交換、處理及顯示。該編碼於1990年開始研發，1994年正式公布，最新版本是2012年1月31日的Unicode 6.1。

特徵

Unicode是一種在計算機上使用的字元編碼。它為每種語言中的每個字元設定了統一併且唯一的二進制編碼，以滿足跨語言、跨平台進行文本轉換、處理的要求。

編碼方法

Unicode 標準始終使用十六進制數字，而且在書寫時在前面加上前綴“U+”，例如字母“A”的編碼為 004116 和字元“?”的編碼為 20AC16。所以“A”的編碼書寫為“U+0041”。

UTF-8 編碼

UTF-8是Unicode的其中一個使用方式。 UTF是 Unicode Tranformation Format，即把Unicode轉做某種格式的意思。

UTF-8便於不同的計算機之間使用網路傳輸不同語言和編碼的文字，使得雙位元組的Unicode能夠在現存的處理單位元組的系統上正確傳輸。

UTF-8使用可變長度位元組來儲存 Unicode字元，例如ASCII字母繼續使用1位元組儲存，重音文字、希臘字母或西里爾字母等使用2位元組來儲存，而常用的漢字就要使用3位元組。輔助平面字元則使用4位元組。

UTF-8（8-bit Unicode Transformation Format）是一種針對Unicode的可變長度字元編碼，又稱萬國碼。由Ken Thompson於1992年創建。現在已經標準化為RFC 3629。UTF-8用1到6個位元組編碼UNICODE字元。用在網頁上可以同一頁面顯示中文簡體繁體及其它語言（如英文，日文，韓文）。

比較

UTF-16 和 UTF-32 編碼

UTF-32、UTF-16和 UTF-8 是 Unicode 標準的編碼字元集的字元編碼方案，UTF-16 使用一個或兩個未分配的 16 位代碼單元的序列對 Unicode 代碼點進行編碼；UTF-32 即將每一個 Unicode 代碼點表示為相同值的 32 位整數。