GNU/Linux >> Belajar Linux >  >> Linux

Apakah ada cara untuk mengonversi dari UTF8 ke ISO-8859-1?

Berikut adalah fungsi yang mungkin berguna bagi Anda:utf8_to_latin9() . Ini dikonversi menjadi ISO-8859-15 (termasuk EURO, yang ISO-8859-1 tidak memiliki), tetapi juga bekerja dengan benar untuk UTF-8 ->ISO-8859-1 bagian konversi dari ISO-8859-1 ->UTF-8 ->ISO-8859-1 pulang pergi.

Fungsi mengabaikan poin kode yang tidak valid yang mirip dengan //IGNORE flag untuk iconv, tetapi tidak mengomposisi ulang urutan UTF-8 yang terdekomposisi; yaitu, itu tidak akan mengubah U+006E U+0303 ke dalam U+00F1 . Saya tidak repot-repot menyusun ulang karena iconv juga tidak.

Fungsi ini sangat berhati-hati dengan akses string. Itu tidak akan pernah memindai di luar buffer. Buffer output harus satu byte lebih panjang dari panjangnya, karena selalu menambahkan byte NUL akhir string. Fungsi mengembalikan jumlah karakter (byte) dalam keluaran, tidak termasuk byte NUL akhir string.

/* UTF-8 to ISO-8859-1/ISO-8859-15 mapper.
 * Return 0..255 for valid ISO-8859-15 code points, 256 otherwise.
*/
static inline unsigned int to_latin9(const unsigned int code)
{
    /* Code points 0 to U+00FF are the same in both. */
    if (code < 256U)
        return code;
    switch (code) {
    case 0x0152U: return 188U; /* U+0152 = 0xBC: OE ligature */
    case 0x0153U: return 189U; /* U+0153 = 0xBD: oe ligature */
    case 0x0160U: return 166U; /* U+0160 = 0xA6: S with caron */
    case 0x0161U: return 168U; /* U+0161 = 0xA8: s with caron */
    case 0x0178U: return 190U; /* U+0178 = 0xBE: Y with diaresis */
    case 0x017DU: return 180U; /* U+017D = 0xB4: Z with caron */
    case 0x017EU: return 184U; /* U+017E = 0xB8: z with caron */
    case 0x20ACU: return 164U; /* U+20AC = 0xA4: Euro */
    default:      return 256U;
    }
}

/* Convert an UTF-8 string to ISO-8859-15.
 * All invalid sequences are ignored.
 * Note: output == input is allowed,
 * but   input < output < input + length
 * is not.
 * Output has to have room for (length+1) chars, including the trailing NUL byte.
*/
size_t utf8_to_latin9(char *const output, const char *const input, const size_t length)
{
    unsigned char             *out = (unsigned char *)output;
    const unsigned char       *in  = (const unsigned char *)input;
    const unsigned char *const end = (const unsigned char *)input + length;
    unsigned int               c;

    while (in < end)
        if (*in < 128)
            *(out++) = *(in++); /* Valid codepoint */
        else
        if (*in < 192)
            in++;               /* 10000000 .. 10111111 are invalid */
        else
        if (*in < 224) {        /* 110xxxxx 10xxxxxx */
            if (in + 1 >= end)
                break;
            if ((in[1] & 192U) == 128U) {
                c = to_latin9( (((unsigned int)(in[0] & 0x1FU)) << 6U)
                             |  ((unsigned int)(in[1] & 0x3FU)) );
                if (c < 256)
                    *(out++) = c;
            }
            in += 2;

        } else
        if (*in < 240) {        /* 1110xxxx 10xxxxxx 10xxxxxx */
            if (in + 2 >= end)
                break;
            if ((in[1] & 192U) == 128U &&
                (in[2] & 192U) == 128U) {
                c = to_latin9( (((unsigned int)(in[0] & 0x0FU)) << 12U)
                             | (((unsigned int)(in[1] & 0x3FU)) << 6U)
                             |  ((unsigned int)(in[2] & 0x3FU)) );
                if (c < 256)
                    *(out++) = c;
            }
            in += 3;

        } else
        if (*in < 248) {        /* 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx */
            if (in + 3 >= end)
                break;
            if ((in[1] & 192U) == 128U &&
                (in[2] & 192U) == 128U &&
                (in[3] & 192U) == 128U) {
                c = to_latin9( (((unsigned int)(in[0] & 0x07U)) << 18U)
                             | (((unsigned int)(in[1] & 0x3FU)) << 12U)
                             | (((unsigned int)(in[2] & 0x3FU)) << 6U)
                             |  ((unsigned int)(in[3] & 0x3FU)) );
                if (c < 256)
                    *(out++) = c;
            }
            in += 4;

        } else
        if (*in < 252) {        /* 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx */
            if (in + 4 >= end)
                break;
            if ((in[1] & 192U) == 128U &&
                (in[2] & 192U) == 128U &&
                (in[3] & 192U) == 128U &&
                (in[4] & 192U) == 128U) {
                c = to_latin9( (((unsigned int)(in[0] & 0x03U)) << 24U)
                             | (((unsigned int)(in[1] & 0x3FU)) << 18U)
                             | (((unsigned int)(in[2] & 0x3FU)) << 12U)
                             | (((unsigned int)(in[3] & 0x3FU)) << 6U)
                             |  ((unsigned int)(in[4] & 0x3FU)) );
                if (c < 256)
                    *(out++) = c;
            }
            in += 5;

        } else
        if (*in < 254) {        /* 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx */
            if (in + 5 >= end)
                break;
            if ((in[1] & 192U) == 128U &&
                (in[2] & 192U) == 128U &&
                (in[3] & 192U) == 128U &&
                (in[4] & 192U) == 128U &&
                (in[5] & 192U) == 128U) {
                c = to_latin9( (((unsigned int)(in[0] & 0x01U)) << 30U)
                             | (((unsigned int)(in[1] & 0x3FU)) << 24U)
                             | (((unsigned int)(in[2] & 0x3FU)) << 18U)
                             | (((unsigned int)(in[3] & 0x3FU)) << 12U)
                             | (((unsigned int)(in[4] & 0x3FU)) << 6U)
                             |  ((unsigned int)(in[5] & 0x3FU)) );
                if (c < 256)
                    *(out++) = c;
            }
            in += 6;

        } else
            in++;               /* 11111110 and 11111111 are invalid */

    /* Terminate the output string. */
    *out = '\0';

    return (size_t)(out - (unsigned char *)output);
}

Perhatikan bahwa Anda dapat menambahkan transliterasi khusus untuk poin kode tertentu di to_latin9() fungsi, tetapi Anda dibatasi untuk penggantian satu karakter.

Seperti yang tertulis saat ini, fungsi dapat melakukan konversi di tempat dengan aman:pointer input dan output bisa sama. String keluaran tidak akan pernah lebih panjang dari string masukan. Jika string input Anda memiliki ruang untuk byte tambahan (misalnya, string memiliki NUL yang mengakhiri string), Anda dapat dengan aman menggunakan fungsi di atas untuk mengonversinya dari UTF-8 ke ISO-8859-1/15. Saya sengaja menulisnya seperti ini, karena ini akan menghemat usaha Anda di lingkungan tertanam, meskipun pendekatan ini agak terbatas. penyesuaian dan ekstensi.

Sunting:

Saya menyertakan sepasang fungsi konversi dalam edit untuk jawaban ini untuk konversi Latin-1/9 ke/dari UTF-8 (ISO-8859-1 atau -15 ke/dari UTF-8); perbedaan utamanya adalah bahwa fungsi tersebut mengembalikan salinan yang dialokasikan secara dinamis, dan mempertahankan string asli tetap utuh.


iconv - melakukan konversi kumpulan karakter

size_t iconv(iconv_t cd, char **inbuf, size_t *inbytesleft, char **outbuf, size_t *outbytesleft);

iconv_t iconv_open(const char *tocode, const char *fromcode);

tocode adalah "ISO_8859-1" dan fromcode adalah "UTF-8" .

Contoh kerja:

#include <iconv.h>
#include <stdio.h>

int main (void) {
    iconv_t cd = iconv_open("ISO_8859-1", "UTF-8");
    if (cd == (iconv_t) -1) {
        perror("iconv_open failed!");
        return 1;
    }

    char input[] = "Test äöü";
    char *in_buf = &input[0];
    size_t in_left = sizeof(input) - 1;

    char output[32];
    char *out_buf = &output[0];
    size_t out_left = sizeof(output) - 1;

    do {
        if (iconv(cd, &in_buf, &in_left, &out_buf, &out_left) == (size_t) -1) {
            perror("iconv failed!");
            return 1;
        }
    } while (in_left > 0 && out_left > 0);
    *out_buf = 0;

    iconv_close(cd);

    printf("%s -> %s\n", input, output);
    return 0;
}

Linux
  1. Apakah ada cara untuk 'uniq' dengan kolom?

  2. Bagaimana cara mengonversi ISO8859-15 ke UTF8?

  3. Apakah ada cara untuk mengganti nama proyek Cargo?

  1. Apakah ada utilitas untuk membuat gambar kosong?

  2. Apakah ada cara untuk me-restart badblock?

  3. Apakah ada cara untuk mengubah id volume file .iso dari baris perintah?

  1. Apakah ada cara untuk mengecualikan host tertentu dari grup host Nagios?

  2. Apakah ada cara untuk memilih beberapa kondisi di `ps`?

  3. Apakah ada cara untuk mendengarkan proses?