字符串编码

Julia 中的String并不具有一个特定的编码类型,包括但不限于ASCIILatin-1UTF-8UCS-2UTF-16UTF-32,每个字符占据一定的连续空间,但仍以Char形式导出

Julia 中String所采用的编码的基本假设是自同步(self-synchronizing)

以该字符串s为例(UTF-8):
直观编号 Char 所占字节数
131
2θ2
33

相关函数

函数原型描述 举例 备注
length(s::AbstractString)->Ints的直观字符数length(s) = 3时间复杂度与字符串长度线性相关
ncodeunits(s::AbstractString)->Ints的实际字节数length(s) = 6也可用sizeof
ncodeunits(c::Char)->IntUTF-8格式表示c所需字符数ncodeunits('猫') = 3
length(s::AbstractString,i::Integer,j::Integer)->Ints中实际字节i~j所包含的直观字节数(识别开头位置),特别地,当i为ncodeunits(s)+1或j为0时返回0 length(s,3,4) = 1
isvalid(s::AbstractString,i::Integer)->Bools的第i各字节是否是某个字符空间块的起点 isvalid(s,5) = false
getindex(s::AbstractString,i::Int)->Char获取s的第i个字节所在字符,i为该字符空间块的起点 s[4] = '猫'
getindex(s::AbstractString,r::UnitRange{Integer})->String通过实际字节索引获取s的子字符串,其中isvalid(s,r.start)isvalid(r.stop) s[2:4] = "θ猫"
thisind(s::AbstractString,i::Integer)->Int获取第i个字节所在字符空间块的起点,特别地,当i为0或ncodeunits(s)+1时返回i thisind(s,5)=4 错误抛出BoundsError
nextind(str::AbstractString,i::Integer,n::Integer=1)->Intn=1时返回s中跟随在下标i后面的合法字符字节下标,详见对应帮助nextind(s,0,3) = 4 可以通过nextind(s,0,i)获取第i个直观字符的空间块起点
prevind(str::AbstractString,i::Integer,n::Integer=1)->Intn=1时返回s中跟随在下标i前面的合法字符字节下标,详见对应帮助 /
codeunit(s::AbstractString)->Type{<:Union{UInt8, UInt16, UInt32}}导出s编码的bit数codeunit(s) = UInt8
codeunit(s::AbstractString,i::Integer)->Union{UInt8, UInt16, UInt32}导出s在实际编号i处的数据codeunit(s,1) = 0x33codeunit(s, i)::codeunit(s)
codeunits(s::AbstractString)导出s的全部字节数据Vector{UInt8}(codeunits(s))[1] = 0x33
Note

通常来说,越界抛出BoundsError,而不在字符空间块起点位置(使用isvalid检查)抛出StringIndexError

Unicode中也提供了一些相关函数

julia> gr=Base.Unicode.graphemes("x𝗑𝘅𝘹𝙭𝚡x𝐱×х⨯ⅹ")
length-12 GraphemeIterator{String} for "x𝗑𝘅𝘹𝙭𝚡x𝐱×х⨯ⅹ"

julia> for c in gr
           println(c)
       end
x
...

选择

  • 如果处理的是纯标准ascii内容,可以不使用以ind结尾的函数

  • 如果处理英语、常见欧洲语言、中文等只需使用上述函数

  • 如果需处理印度语、泰语、emoji或其它复杂物体,应注意下述相关资源模块

相关资源