как определить кодировку UTF8?

Вопросы программирования и использования среды Lazarus.

Модератор: Модераторы

Re: как определить кодировку UTF8?

Сообщение pupsik » 14.04.2017 18:27:33

неправильно определяет если в тексте кириллица
знамо дело. Где то на просторах лежит модуль под кол. Если быть точнее грубо обрезанный вариант chsdet. Он с кириллицей адекватно реагирует. Можно и из DC взять модуль. Только там аналогичные проблемы. Хотя и пытаются править.
"Второй вариант" с ещё меньшим % угадывания.
pupsik
энтузиаст
 
Сообщения: 882
Зарегистрирован: 20.08.2014 16:20:13

Re: как определить кодировку UTF8?

Сообщение DYUMON » 14.04.2017 19:56:42

в delphi подглядел
Код: Выделить всё
function DetectUTF8Encoding(const s: RawByteString): TEncodeType;
var
  c : Byte;
  P, EndPtr: PByte;
begin
  Result := etUSASCII;
  P := PByte(PAnsiChar(s));
  EndPtr := P + Length(s);

  // skip leading US-ASCII part.
  while P < EndPtr do
  begin
    if P^ >= $80 then break;
    inc(P);
  end;

  // If all character is US-ASCII, done.
  if P = EndPtr then exit;

  while P < EndPtr do
  begin
    c := p^;
    case c of
      $00..$7F:
        inc(P);

      $C2..$DF:
        if (P+1 < EndPtr)
            and ((P+1)^ in [$80..$BF]) then
          Inc(P, 2)
        else
          break;

      $E0:
        if (P+2 < EndPtr)
            and ((P+1)^ in [$A0..$BF])
            and ((P+2)^ in [$80..$BF]) then
          Inc(P, 3)
        else
          break;

      $E1..$EF:
        if (P+2 < EndPtr)
            and ((P+1)^ in [$80..$BF])
            and ((P+2)^ in [$80..$BF]) then
          Inc(P, 3)
        else
          break;

      $F0:
        if (P+3 < EndPtr)
            and ((P+1)^ in [$90..$BF])
            and ((P+2)^ in [$80..$BF])
            and ((P+3)^ in [$80..$BF]) then
          Inc(P, 4)
        else
          break;

      $F1..$F3:
        if (P+3 < EndPtr)
            and ((P+1)^ in [$80..$BF])
            and ((P+2)^ in [$80..$BF])
            and ((P+3)^ in [$80..$BF]) then
          Inc(P, 4)
        else
          break;

      $F4:
        if (P+3 < EndPtr)
            and ((P+1)^ in [$80..$8F])
            and ((P+2)^ in [$80..$BF])
            and ((P+3)^ in [$80..$BF]) then
          Inc(P, 4)
        else
          break;
    else
      break;
    end;
  end;

  if P = EndPtr then Result := etUTF8
  else Result := etANSI;
end;


// if string contains real UTF8 character, return true.
function IsUTF8String(const s: RawByteString): Boolean;
begin
  result := DetectUTF8Encoding(s) = etUTF8;
end;
Аватара пользователя
DYUMON
постоялец
 
Сообщения: 157
Зарегистрирован: 11.03.2009 13:32:54

Пред.

Вернуться в Lazarus

Кто сейчас на конференции

Сейчас этот форум просматривают: alexs, Google Adsense [Bot] и гости: 7

Рейтинг@Mail.ru
cron