W3C home > Mailing lists > Public > public-html-ig-zh@w3.org > April 2012

Re: 臺灣和香港Big5 HKSCS vs UAO分析和結論

From: Philip Jägenstedt <philipj@opera.com>
Date: Fri, 20 Apr 2012 23:32:28 +0200
To: "Kang-Hao (Kenny) Lu" <kennyluck@csail.mit.edu>
Cc: "Chinese HTML Interest Group" <public-html-ig-zh@w3.org>
Message-ID: <op.wc214en1sr6mfa@localhost.localdomain>
On Wed, 18 Apr 2012 22:05:22 +0200, Kang-Hao (Kenny) Lu  
<kennyluck@csail.mit.edu> wrote:

> (12/04/19 1:01), Philip Jägenstedt wrote:
>>  • 298 pages with mixed/broken encodings
>>    • 190 pages that would yield U+FFFD with HKSCS, but instead produces
>> bogus Chinese characters using UAO, some of them user-visible:
>
> 提供一點考古方向:有些的編碼看起來是 big5-2003[1]、、、、、囧
>
>>      • http://domestic.mytour.com.tw/list.asp?id=721 (迳)
>
> 6. http://domestic.mytour.com.tw/list.asp?id=721

>
> bytes: 84B3
>
> hkscs: 不捨結束此行精采假期、踏上歸途<U+FFFD �>視情況休息<br>18:30~
>
> uao:   不捨結束此行精采假期、踏上歸途<U+8FF3 迳>視情況休息<br>18:30~
>
> 84B3 在 big5-2003 是 U+F0E0(PUA),在 Windows 上看起來是 U+2192(→
> RIGHTWARDS ARROW),但是兩個字形(glyph)並不一樣。

有可能,不過<U+3001 IDEOGRAPHIC COMMA 、>或者<U+FF0C FULLWIDTH COMMA  
,>好像更好。

> 其他 PUA 到正常字符的對應有些在[2]可以找到,有些只好、、、用 Unicode 搜
> 尋[3]找一個合適的字符出來了(囧)。
>
>>      • http://edu.uuu.com.tw/events/090619_ocpsummer_blueshop.htm (轩)

這個「轩」明明是亂碼,什麼也不如U+FFFD。

>> http://hi-taiwan.ecserver.com.tw/eip/front/bin/ptdetail.phtml?Part=teams0088

>> (启)
>
> 7.
> http://hi-taiwan.ecserver.com.tw/eip/front/bin/ptdetail.phtml?Part=teams0088

>
> bytes: 8451
>
> hkscs: 光銘電 話:27314903 <U+FFFD �> 27755852 聯 絡 人
>
> uao:   光銘電 話:27314903 <U+542F 启> 27755852 聯 絡 人
>
> U+F0A0(PUA)→ U+25AA(▪ BLACK SMALL SQUARE)

某種標點符號更合適吧?

>>      • http://oa.mingdao.edu.tw/~foo/www9/fenyes/h41.htm (财)
>>      • http://service.cph.com.tw/act/ps921203/proudect01-12.htm (财轩)
>
> 「财」83DC → U+F06C(PUA)→ U+25CF(● BLACK CIRCLE)
> 「轩」83DE → U+F06E(PUA)→ U+25A0(■ BLACK SQUARE)
>
> 其他「财」、「轩」應該都是這樣,但是我沒仔細確認。

在service.cph.com.tw這麼映射可以,可是第一個更像亂碼。

>>      • http://w3.csmu.edu.tw/~jjyang/ (汹刍脉)
>
> 「汹」836E → U+F020(PUA)(看起來像是全形空白)
> 「刍」83D1 解出來應該是某種 beta,但是這不合 big5-2003 給出的東西
> (U+FO61 看起來是 ♋)
> 「脉」83D2 同樣

明顯是亂碼,最好還是U+FFFD。

>>      • http://www.be-wells.com.tw/ascendancy/ascendancy_SE.php?page=5  
>> (时)
>
> 「时」83BA → U+F04A(PUA)→ U+263A(☺ WHITE SMILING FACE)

更有可能是亂碼吧?

> 場合合理,但是我也不是那麼肯定、、、
>
>>      • http://www.brain.com.tw/lecture/sale/sale_04.htm (阵)
>
> 「阵」83E5 → U+F075(PUA)→ U+25C6(◆ BLACK DIAMOND)

我很懷疑,全形空白不是更好嗎?

>>      • http://www.chimei.com.tw/en/news-detail.asp?news_id=12 (毕)
>
> 「毕」8465 解出來應該是某種乘號,但是 big5-2003 給出的東西(U+F0B4)像是
> 一個三角形裡面有的問號。

應該是亂碼……

>>      • http://www.flag.com.tw/book/5105.asp?bokno=FT476 (钉)
>
> 「钉」83E0 → U+F070(PUA)在 Windows 上看起來是 U+25FD(◽ WHITE MEDIUM
> SMALL SQUARE)

應該是全形空白或者某種項目符號吧?

>>      • http://www.goprint.com.tw/draw.asp (妇)
>
> 「妇」83FC → U+F08C(PUA)→ U+2776(❶ DINGBAT NEGATIVE CIRCLED DIGIT  
> ONE)

不太合適,大概是亂碼。

>>      • http://www.iiiedu.org.tw/ites/PDPM.htm (贯)
>
> 「贯」84AB → U+F0D8(PUA)→ U+27A2(➢ THREE-D TOP-LIGHTED RIGHTWARDS
> ARROWHEAD)

看上下文估計原來應該是普通的空白。

>>      • http://www.kham.com.tw/ad.asp?P1=0000008355 (财)
>
> 已解:●

在句末不太合適啊……

>>      • http://www.misterdonut.com.tw/info/news.asp?id=267 (讫)
>>      • http://www.misterdonut.com.tw/info/news.asp?id=308 (讫)
>
> big5-2003 給出的東西(U+F06A)看起來有點怪、、、不過也不是說在這個場合不
> 適用,反正只是一個項目標記,[2]是說可以用 U+0026(& Ampersand)取代,步
> 過看起來不太像、、、

哦,全形空白或項目標記。

>>      • http://www.muonline.com.tw/Guide/GameSystem/07_pvp.asp (轩)
>
> 沒確認,估計就是已解的 ■

我看應該是亂碼。

>>      • http://www.nacs.gov.tw/01_about

>> /00_about_page.asp?ID=JNNORPIQJNMMK (枭)
>
> 「枭」8458 → U+F0A7(PUA)→ U+27A2(▪ BLACK SMALL SQUARE)

可能,全形空白或項目標記。

>>      • http://www.nca.org.tw/chhtml/newsdetail.asp?NewsID=933&

>> NewsGroup=4 (围轩)
>
> 「围」84CF → U+F0FC(PUA)→ U+2713(✓ CHECK MARK)

這些都像全形空白或者亂碼。

>>      • http://www.neweb.com.tw/neweb-G_080808.htm (阵)
>
> 「阵」83E5 → U+F07B(PUA)→ U+2740(❀ WHITE FLORETTE)

沒法確認,有可能是吧。

>>      • http://www.nordic.com.tw/client/festival/food02_3.htm (财)
>>      • http://www.nordic.com.tw/client/festival/food02_5.htm (财)
>>      • http://www.ogilvy.com.tw/Works/CaseContent.asp?serial=71 (迳)
>
> 沒確認這些,不過上面都有了。

nordic.com.tw的「财」應該是亂碼,而ogilvy.com.tw的「迳」應該是某種標點符號。

>>      • http://www.pccu.edu.tw/intl/page/english/english.htm (丗)
>
> 「丗」8140 → U+EEB8(PUA) 這個區域的看起來都像是全形空白、、、
>
>>      • http://www.pycnogenol.com.tw/info.htm (钓)

在頁面最後應該是亂碼……

> 「钓」84B5 → U+F0E0(PUA),在 Windows 上看起來是 U+2193(↓ DOWNWARDS
> ARROW),在這個場合可能是指下載的意思?步太確定、、、
>
>>      • http://www.songyan.com.tw/distribution.html (迳)
>
> 沒確認,估計就是已解的 →

合適!

>>      • http://www.srbook.com.tw/show_book.htm?wno=9868017645 (间)
>
> 「间」857D 解出來應該是句號,但是 big5-2003 給出的東西(U+F169)的這個區
> 域的看起來都像是全形空白、、、

最合適還是「。」

>>      • http://www.transglobe.com.tw/product/product-insurance-DSC.shtml

>> (贯)
>>      • http://www.ukeas.com.tw/postgrad/university/exeter.htm (财)
>>      • http://www.wintan.com.tw/service_06_08.htm (迳)
>>      • https://freenet.smartnet.com.tw/product-item.php?sn=9322 (财轩)
>
> 沒確認這些,不過上面都有了。

我覺得只有「财」和「轩」合適……

>> Using Big5-UAO for Taiwanese sites would give mixed results. Correctly
>> encoded Big5-UAO is very rare, so the tested mapping (Firefox)
>> introduces almost as many user-visible misencodings as it fixes and
>> masks many others.
>
> 我不知道該說什麼才好了,感覺為 Big5-UAO 把 big5-2003 的東西加回去一些可
> 以解決很大部份,另外,上面這些字都不是日文漢字,所以也不影響我對 Big5-
> UAO 的要求 :p,有人知道這部份的編碼對應是在可以動手術的範圍還是不行?

按照上面的,用Big5-2003並不是很完美的。MozTW的映射好像不是完全可靠,所以我不知道該根據什麼去定義Big5-UAO。

問題的範圍畢竟是0.043%的臺灣網頁的幾個字符。現代的瀏覽器只有Firefox能顯示,而且他們的映射還造成別的問題……

在這種情況下,我覺得嘗試跟受影響的網站聯繫還是有希望。反正這是唯一的辦法能夠讓香港和國際的用戶也看得到。

還有別的選擇嗎?

-- 
Philip Jägenstedt
Core Developer
Opera Software
Received on Friday, 20 April 2012 21:33:15 UTC

This archive was generated by hypermail 2.3.1 : Tuesday, 6 January 2015 20:43:50 UTC