gbk编码是什么意思(gbk和utf8的区别)

展现独立思想 博采百家众长

汇集涓涓细流 共向辽阔海洋

当知道计算机内部使用的都是二进制数后,学生会紧跟着产生一个疑问:既然只是些0/1数字,为什么计算机还能处理文字等非数字信息呢?因此,我们可以顺应学生思路,立即着手解决“字符编码”问题,它比“数制转换”更能体现“计算机科学的思想和方法”。

(本文原载于“实验楼”)

很久很久以前,有一群人,他们决定用8个可以开合的晶体管来组合成不同的状态,以表示世界上的万物。他们看到8个开关状态是好的,于是他们把这称为“字节”。

再后来,他们又做了一些可以处理这些字节的机器,机器开动了,可以用字节来组合出很多状态,状态开始变来变去。他们看到这样是好的,于是就把这种机器称为“计算机”。

开始计算机只在美国用。8位的字节一共可以组合出256(2的8次方)种不同的状态。他们把其中编号从0开始的32种状态分别规定了特殊用途,一旦终端、打印机遇上这些字节,就要做一些约定的动作,如:

* 遇上0x10, 终端就换行;

* 遇上0x07, 终端就向人们嘟嘟叫;

* 遇上0x1b, 打印机就打印反白的字,或者终端就用彩色显示字母。

他们看到这样很好,于是就把这些0x20以下的字节状态称为“控制码”。他们又把所有的空格、标点符号、数字、大小写字母分别用连续的字节状态表示,一直编到了第127号,这样计算机就可以用不同字节来存储英语的文字了。

大家看到这样,都感觉很好,于是大家都把这个方案叫做“ASCII”编码。当时世界上所有的计算机都用同样的ASCII方案来保存英文文字。

(基本概念:ASCII(American Standard Code for Information Interchange,美国信息交换标准代码)是基于拉丁字母的一套电脑编码系统,主要用于显示现代英语和其他西欧语言。它是现今最通用的单字节编码系统。)

后来,就像建造巴比伦塔一样,世界各地的都开始使用计算机,但是很多国家用的不是英文,他们的字母里有许多是ASCII里没有的,为了可以在计算机保存他们的文字,他们决定采用 127号之后的空位来表示这些新的字母和符号,还加入了很多画表格时需要用到的横线、竖线、交叉等形状,一直把序号编到了最后一个状态255。

从128 到255这一页的字符集被称“扩展字符集”。从此之后,人类再没有新的状态可以用了。

等中国人们得到计算机时,已经没有可以利用的字节状态来表示汉字,况且有6000多个常用汉字需要保存呢。

但是这难不倒智慧的中国人民,我们不客气地把那些127号之后的奇异符号们直接取消掉, 规定:

一个小于127的字符的意义与原来相同,但两个大于127的字符连在一起时,就表示一个汉字;

前面的一个字节(称之为高字节)从0xA1用到 0xF7,后面一个字节(低字节)从0xA1到0xFE;

这样我们就可以组合出大约7000多个简体汉字了。

在这些编码里,我们还把数学符号、罗马希腊的字母、日文的假名们都编进去了,连在 ASCII 里本来就有的数字、标点、字母都统统重新编了两个字节长的编码,这就是常说的“全角”字符。而原来在127号以前的那些就叫“半角”字符了。

中国人民看到这样很不错,于是就把这种汉字方案叫做“GB2312”。GB2312 是对 ASCII 的中文扩展。

但是中国的汉字太多了,我们很快就就发现有许多人的人名没有办法在这里打出来,于是我们不得不继续把 GB2312 没有用到的码位找出来老实不客气地用上。

后来还是不够用,于是干脆不再要求低字节一定是127号之后的内码,只要第一个字节是大于127就固定表示这是一个汉字的开始,不管后面跟的是不是扩展字符集里的内容。结果扩展之后的编码方案被称为GBK标准,GBK包括了GB2312 的所有内容,同时又增加了近20000个新的汉字(包括繁体字)和符号。

(基本概念:GBK全称《汉字内码扩展规范》。GBK即“国标”、“扩展”汉语拼音的第一个字母,英文名称:Chinese
Internal Code Specification,中华人民共和国全国信息技术标准化技术委员会1995年12月1日制订。)

后来少数民族也要用电脑了,于是我们再扩展,又加了几千个新的少数民族的字,GBK扩成了GB18030。从此之后,中华民族的文化可以在计算机时代得以传承了。

中国的程序员们看到这一系列汉字编码的标准是好的,于是通称他们叫做“DBCS“(Double Byte Charecter Set 双字节字符集)。

在DBCS系列标准里,最大的特点是两字节长的汉字字符和一字节长的英文字符并存于同一套编码方案里,因此他们写的程序为了支持中文处理,必须要注意字串里的每一个字节的值,如果这个值是大于127的,那么就认为一个双字节字符集里的字符出现了。

当时,各个国家都像中国这样搞出一套自己的编码标准,结果互相之间谁也不懂谁的编码,谁也不支持别人的编码,就连大陆和台湾这样只相隔了150海里,使用同一种语言的同胞兄弟,也分别采用了不同的 DBCS 编码方案。

正在这时,一个叫ISO(国际标谁化组织)的国际组织决定着手解决这个问题。他们采用的方法很简单:废除所有的地区性编码方案,重新搞一个包括了地球上所有文化、所有字母和符号的编码!

他们打算叫它”Universal Multiple-Octet Coded Character Set”,简称UCS,俗称 “unicode”。

unicode开始制订时,计算机的存储器容量极大地发展了,空间再也不成为问题了。于是ISO直接规定必须用两个字节,也就是16位来统一表示所有的字符,对于ASCII里的那些“半角”字符,unicode包持其原编码不变,只是将其长度由原来的8位扩展为16位,而其他文化和语言的字符则全部重新统一编码。由于“半角”英文符号只需要用到低8位,所以其高8位永远是0,因此这种大气的方案在保存英文文本时会多浪费一倍的空间。

(基本概念:Unicode(统一码、万国码、单一码)是计算机科学领域里的一项业界标准,包括字符集、编码方案等。Unicode 是为了解决传统的字符编码方案的局限而产生的,它为每种语言中的每个字符设定了统一并且唯一的二进制编码,以满足跨语言、跨平台进行文本转换、处理的要求。1990年开始研发,1994年正式公布。)

从unicode开始,无论是半角的英文字母,还是全角的汉字,它们都是统一的“一个字符”!同时,也都是统一的“两个字节”,请注意“字符”和“字节”两个术语的不同:

“字节”是一个8位的物理存贮单元,

“字符”是一个文化相关的符号。

互联网的出现,使unicode网络上传输出现了的问题,于是面向传输的UTF(UCS Transfer Format)标准出现了,顾名思义:

UTF-8就是每次8个位传输数据,

而UTF-16就是每次16个位。

UTF-8就是在互联网上使用最广的一种unicode的实现方式,这是为传输而设计的编码,并使编码无国界,这样就可以显示全世界上所有文化的字符了。

(基本概念:UTF-8(8-bit Unicode Transformation Format)是一种针对Unicode的可变长度字符编码,又称万国码,使用1到6个字节编码Unicode字符。用在网页上可以统一页面显示中文简体繁体及其它语言,如英文、日文、韩文等。)

UTF-8最大的一个特点,就是它是一种变长的编码方式。它可以使用1~4个字节表示一个符号,根据不同的符号而变化字节长度,当字符在ASCII码的范围时,就用一个字节表示,保留了ASCII字符一个字节的编码做为它的一部分,(注意的是unicode一个中文字符占2个字节,而UTF-8一个中文字符占3个字节)。

从unicode到uft-8并不是直接的对应,而是要过一些算法和规则来转换。

发表评论

登录后才能评论