【汉化资料】小字体 大舞台之一苏哲有话说

shane007

原文
http://blog.sina.com.cn/s/blog_5 ... el=rela_prevarticle

作者：何晓龙


8 J$ O9 x; j3 _; e; C$ H1 L    苏哲是开源中文输入法SCIM的总架构师，SCIM是一个优秀的开源国际化输入法平台，支持多达40多种语言的输入，目前已经被多数主流的Linux发行版本作为默认的输入法。它最大的特点可以通过插件的形式扩充输入法。基于SCIM输入法平台，苏哲还开发了一款智能拼音输入法，可以媲美著名输入法紫光拼音。但苏哲在开发SCIM智能拼音输入法的过程中却产生了很多困惑，下面就来就从苏哲的困惑谈起。
                        
                                      图 甲骨文
  G6 F' Y' n% w                           
) B5 ~* h# Q3 m. J5 O苏哲的困惑

* H! @; u% X: I1.不规范的输入法引出的问题
    对于这个SCIM的总架构师来说，有许多困惑。首先是汉字词库和语料库规范的问题，由于目前国家还没有标准的词库和语料库，导致了目前多数中文输入法在使用中会出现不规范问题，如输出错误的汉字，拼音不规范和音调错误的情形，比较典型的案例就是2002年，武汉市青山区退休老人冯勇投诉《微软拼音输入法》，下面先让我们重温一下当时投诉微软输入法新闻：
新华网武汉6月13日电武汉市青山区退休老人冯勇，发现美国微软公司出品的《微软拼音输入法》3个版本存在拼音错误，多次协商未果后，向湖北省消委投诉。湖北省消费者委员会投诉科今天证实，日前他们已经正式受理了这一投诉。这是湖北省继去年的刘良诉“全日空”案后，受理的第二起涉外投诉案。
2001年9月，冯勇在学习电脑时，发现《微软拼音输入法》2.0版本有拼写错误。后来，冯勇又发现《微软拼音输入法》1.5版本、2.0版本、3.0版本均有数十或百余个拼写错误。他第一次找出2.0版本的拼写错误后，曾与微软北京中心接触过，但该中心没有拿出改进意见。在这以后，他又对该公司推出的1.5、3.0版本进行研究，发现的错误越来越多。今年，他多次与微软北京中心联系，并给微软总裁比尔·盖茨写过信，却一直未得到满意答复。


9 I9 z; T- D9 \4 L' s8 ]图 甲骨文
$ g0 U* Y: B) X# {) p$ ?
+ ~2 x1 u- f$ J4 U: \/ P0 T    冯勇觉得，《微软拼音输入法》在全球发行量巨大，会对使用者产生误导，于是向湖北省消费者委员会投诉。他要求微软公司迅速对不合格的三个版本升级改进，并给购买该类版本的消费者适当补偿。
+ A4 Q+ u8 J- ~+ ]: A上述内容可以在http://http://news.xinhuanet.com/it/2002-06/13/content_438722.htm找到。这是由于中文输入法拼音不规范造成的的问题，虽然事情已经过去好久，问题已经解决，但思考还在继续，由于没有标准的词库、语料库以及拼写标准可以遵循，目前输入法，无论是开源还是闭源都存在着很多被人忽视的问题，使得中文的使用，尤其是在计算机和网络领域，造成了很大混乱，存在大量以讹传讹的现象，造成了计算机和网络汉字使用不够规范。从教育、文化传播和流传的角度来说，其危害和影响就更为深远了。试想某天一个小学生由于使用输入法并将其错误、不规范的汉字作为学习对象来学习，那会造成何种状况？


图 金文
& b. O1 I/ c8 i0 \& d( D/ c
$ V3 g5 w# v3 f+ d3 D2.计算机使用的中文词库和语料库亟待规范
    如果说中文输入法大家比较熟悉的话，中文词库和语料库对于普通计算机用户似乎十分遥远和陌生，再举个身边的例子来说明一下，大家使用的Windows XP操作系统的欢迎登录界面右下脚提示中的“帐户”一词就是一个不规范的汉字用法。当然从苏哲自己开发SCIM项目中也深刻感觉到，要开发一个好的中文输入法，尤其是具备整句输入能力的智能拼音输入法，不仅需要完善的理论基础来开发输入法核心，更重要的是，需要一套高质量的中文词库和语料库。
) h$ G7 \. X0 X  J( S& J3 g
0 d5 p0 L0 v' U8 V0 H
2 O0 ?9 M! O1 q9 m图 汉简

    中文词库就是包含中文常用词语、成语、惯用语及其拼音标注的词典。中文词库中每一个词条及其拼音标注的正确性，在很大程度上决定了中文输入法的输入质量。但由于开源领域的开发人员往往都不是专业语言学家，要想开发出一套高质量的中文词库是非常困难的。而且不幸的是，国内目前尚没有任何国家权威机构、企业或学术单位提供免费公开的开源中文词库。虽然已经有很多商业词库产品，但都因为价格高昂和封闭许可证问题，无法应用于开源软件。中文语料库就是经过词语切分和标注的大规模中文语言素材，例如报纸、小说和书籍等内容。高质量大规模的中文语料库对于开发具备整句输入能力的智能中文输入法以及中文简繁转换、汉字到拼音转换等众多领域有着至关重要的作用。和中文词库的处境类似，虽然国内已经有很多国家权威机构、企业和学术单位可以提供商业的语料库产品，但到目前为止还没有任何几个单位提供过免费公开的开源语料库。

) t& j& \& Q/ z: |  ]1 `6 {
7 C9 f! l0 W- R; a9 Z6 ^' x图 隶书
% ~& ]  l6 W7 _- q' G% @! h. e

  x+ i  V8 e9 H- z) E( T3.节约型社会呼唤免费字体
1 V* d9 I# t/ c5 B- C1 J7 r    开源系统中没有免费、高质量的汉字字体可用，众所周知，中文是一种使用表意字符的语言，拥有多达几万个汉字。因此，制作一款中文字库的工作量是非常巨大的。另外，由于中文字库是所有中文相关技术的基础，没有一个好的字库，就不可能做到很好的中文支持。因此，中文字库的质量是至关重要的。保证中文字库中每个汉字字形的正确也就成为中文字库制作过程中最艰巨的任务。国家相关部门为此也制定了相关标准来约束字库厂商。字库必须通过国家相关部门的检测才能上市销售。所有这些因素，导致字库开发的成本非常高。
8 X# e, }3 W) L* i; `% i


图 唐碑

* ~- M; v- w. R3 H7 G7 w* @/ S2 t/ G4 k2 c    高昂的成本，对开源软件社区来说是无法承受的。这也是为什么到现在为止还没有出现一款高质量开源字库的原因。为什么不是开源字体，这个问题下面会专门提到，在中文字体方面，虽然我国有很多字库厂商提供商业的中文字库，但大都价格昂贵。到目前为止还没有任何一个厂商或组织发布过高质量的开源字库，这极大的影响了开源软件对中文支持的质量。此外，一方面是有众多厂商在制作、销售商业字体，可以说当今是商业字体泛滥的一个时代，另一方面字体利用率却很低，常用的只有常见的几种字体，如方正、中易等字体，尤其是开源系统中缺乏一套免费的高质量的字体，由于字体的开发投资巨大，所以这造成了社会资源的极大浪费，和我国目前推行的节约型社会的导向不符，所以我们的政府有必要推出一套标准的免费字体来供大家使用，那怕只是一套简单的宋体和楷体字体，这对于规范计算机和网络汉字使用环境，推动开源中文软件的应用都大有好处。

3 Z. ?) B8 K- b: x5 \
1 R8 K1 J+ L. z$ O$ |' Y
图 印刷技术的演进

& z; w+ U- S& W+ x5 x$ ]# M
! I3 D( I+ i" P苏哲看开源字体
( g. ]  l9 T$ W+ N
1.开源字体无法承受之重
, P, K8 G3 d; i5 h    在中文字体方面，虽然我国有很多字库厂商提供商业的中文字库，但大都价格昂贵。到目前为止还没有任何一个厂商或组织发布过高质量的开源字库，这极大的影响了开源软件对中文支持的质量。开源字体的问题详细来说，首先是汉字的每个字形是有国家标准的，每个字体、字符都是有国家的规定。字库里面每一个字的字形都必须经过汉字专家的审查认定，符合国家汉字标准才行。如大家常用的点阵字都是有明确的国家标准的，如手持设备、便携设备等，每个字怎么写、如何排布的，都是有着严格的规范的。也就是说，字库里面必须保证没有错字。这个关系到文化教育、文化传承等各个方面，马虎不得，所以通过一个认证机构也是必要的。此外，开源字体目前还有二个尴尬，第一个尴尬是国家标准的认证不是免费的认证，到国家的认证机构作字体规范化认证是要花钱的，并且每次修改后还需要再经过国家认证机构的认证，不但维护起来十分烦琐，而且国家认证费用也不是一个开源项目所能承担的起。第二个尴尬是许多字体标准本身就不是免费的，使用这些标准也要花钱，这是开源字体项目所无法承受的。

2.开源字体任重道远
    当然，以开源的方式是可以作字体的，使用也没有问题，但要想做一套符合国家标准的开源字体就比较麻烦了，首先是经费问题，对于多数开源项目来说有一定的经费是最为基本的要求，没有经费和机构来负责开源字体的国家的认证，其次是由于开源字体是由众多开源爱好者和志愿者参与制作的，他们的水平可能参差不齐，很难保证字体的一致性和整体质量，个人认为制作和维护一个字体是一件劳动密集、需要很多投入的事情，在以前，像方正这样的字库大厂，都是投入相当大的人力和物力来开发一套字体，每种字体都需要聘请老书法家，一个字一个字的写在纸上，然后再全部扫描到计算机中进行数字化和矢量化，工序非常的烦琐，在制作过程中要保证每一个字的质量一直以及这种字体风格的统一，所以一套字体的制作成本是非常之高的。
, z7 j; S% c" [# v- E& ^8 w/ j" t    目前的开源字体项目则只是简单地通过网站将开源爱好者和志愿者组织起来，很难保证每一个字的质量一致和风格的统一。如目前的国家标准GB18030，一共有二万多个汉字，如何保证这二万多个字体的质量和风格是一个不小的难题。此外，制作一套曲线字库的技术难度要比点阵字库困难很多，如果使用TrueType字体格式，还牵扯到其中的一些专利使用权的问题。所以要想制作一套高质量、美观的开源的TrueType 中文字体，难度是非常巨大的。需要大量人力物力和财力，这些都不是普通开源组织能够承受的。
9 ^' W; r5 T* M( j9 _
- d# z+ L" q5 s苏哲看中文环境

    除了标准中文词库、语料库和开源字体之外，苏哲对于汉字体系的其他方面也有话要说。

0 O; e8 G/ x9 @. e! O1.汉字编码
1 ~. S4 g3 A, e2 C! N4 t2 L' Q    除了字体之外，在汉字的编码支持方面，大部分开源软件已经做得很好，这是由于大家现在基本都采用国际标准Unicode/ISO10646编码，这样就可以比较容易的支持各个国家的语言文字编码。在中文本地编码支持方面，经过大家的努力，中文GB2312、GBK、GB18030等常用中文编码已经可以被大部分开源软件所支持。所以在编码方面基本不存在很大问题。

9 h- Z3 c- _7 L2 a2.开源中文输入法
" h0 q+ ^8 |. u6 K2 Y6 {    在中文输入法方面，虽然国内开源社区和厂商已经开发出很多开源的中文输入法，包括各种拼音输入法和笔划输入法。但还没有出现一种效果能和Windows平台下商业输入法相媲美的开源产品，尤其是缺乏支持整句输入的智能拼音输入法。拼音输入法在国内的用户占有量是非常巨大的，保守估计也有超过70%的计算机用户使用拼音输入法，剩下的用户大都使用五笔字型等笔划输入法。因此，一套好的拼音输入法对于大部分用户来说是至关重要的，尤其是使用开源平台的用户。
/ r. V" a' [" Z, s+ O& z4 Z2 H
/ [1 b  \8 j, H4 q# h* H7 g
- o/ G+ C! k/ a8 g- \
5 e8 l% i/ l( q9 S) j图 文泉驿字体

3.打印
( E* a* d  ?, C: D9 c* D! _: E    在中文打印方面，开源软件领域已经具备比较成熟的中文打印技术，因此只要有高质量的中文字库，中文打印就不成问题。

# w5 H" T8 ~; p# {最后结论
    综上所述，由于免费字体和中文标准词库和语料库领域的特殊性，光靠开源社区的力量是远远不够的。还必须依靠国家相关部门和企业的支持才行。从推进我国信息化建设、推广普通话、发扬汉字文化等角度考虑，制作发布一套符合国家相关标准的免费开源中文字体、中文词库和语料库是至关重要的。而这个工作应由国家相关权威部门领导、协调各方力量来完成。对于中文免费字体，最好的解决办法就是由政府来研制一套标准字库公开出来，作为免费字库供社会各界使用。