GVKun编程网logo

'str = new String(bytes,“ UTF8”)'和'bytes = str.getBytes(“ UTF8”)'中的字节数不相同

27

这篇文章主要围绕'str=newString和bytes,“UTF8”'和'bytes=str.getBytes展开,旨在为您提供一份详细的参考资料。我们将全面介绍'str=newString的优缺点

这篇文章主要围绕'str = new Stringbytes,“ UTF8”'和'bytes = str.getBytes展开,旨在为您提供一份详细的参考资料。我们将全面介绍'str = new String的优缺点,解答bytes,“ UTF8”'和'bytes = str.getBytes的相关问题,同时也会为您带来(透彻)java String.getBytes()编码问题、asp.net-mvc – 如何GetBytes()在C#与UTF8编码与BOM?、byte[] to UTF8 to JSON string 是二进制数据的安全编码吗?、byte[]->new String(byte[]) -> getByte()引发的不一致问题的实用方法。

本文目录一览:

'str = new String(bytes,“ UTF8”)'和'bytes = str.getBytes(“ UTF8”)'中的字节数不相同

'str = new String(bytes,“ UTF8”)'和'bytes = str.getBytes(“ UTF8”)'中的字节数不相同

我可以看到它们与我创建字符串所用的字节不同!我已经使用“ AES / CBC / PKCS5Padding”来获取字符串。

public static void main(String[] args) {    try {        int randomNumber = CNStationQueueUtil.randInt(0, 99999);        String key = "AES_KEY_TAKENUMB";        byte[] bytes = EncryptHelper.encrypt(key, String.format("%%%d%%%d", 1001, randomNumber));        String str = new String(bytes, "UTF8");        System.out.println("str = " + str);        System.out.println();        byte[] utf8Bytes = str.getBytes("UTF8");        printBytes(utf8Bytes, "utf8Bytes");    } catch (Exception e) {        e.printStackTrace();    }}public class EncryptHelper {    public static byte[] encrypt(String key, String value)            throws GeneralSecurityException {        byte[] raw = key.getBytes(Charset.forName("UTF-8"));        if (raw.length != 16) {            throw new IllegalArgumentException("Invalid key size.");        }        SecretKeySpec skeySpec = new SecretKeySpec(raw, "AES");        Cipher cipher = Cipher.getInstance("AES/CBC/PKCS5Padding");        cipher.init(Cipher.ENCRYPT_MODE, skeySpec,                new IvParameterSpec(new byte[16]));        return cipher.doFinal(value.getBytes(Charset.forName("UTF-8")));    }    public static String decrypt(String key, byte[] encrypted)            throws GeneralSecurityException {        byte[] raw = key.getBytes(Charset.forName("UTF-8"));        if (raw.length != 16) {            throw new IllegalArgumentException("Invalid key size.");        }        SecretKeySpec skeySpec = new SecretKeySpec(raw, "AES");        Cipher cipher = Cipher.getInstance("AES/CBC/PKCS5Padding");        cipher.init(Cipher.DECRYPT_MODE, skeySpec,                new IvParameterSpec(new byte[16]));        byte[] original = cipher.doFinal(encrypted);        return new String(original, Charset.forName("UTF-8"));    }}

答案1

小编典典

当您按原样对字符串进行解码时UTF-8,是因为您将字节编码为UTF-8或兼容格式。您不能只取一个byte[]随机字节并将其转换为字符串,因为它是二进制数据而不是文本。

您可以做的是对二进制文件使用Base64编码器,并使用Base64解码器将其转换回原始字节。

这样做的一种怪癖方法是使用ISO-8859-1,但这通常是个坏主意,因为您会混淆二进制数据和文本数据。

(透彻)java String.getBytes()编码问题

(透彻)java String.getBytes()编码问题

(透彻)java String.getBytes()编码问题 博客分类: java

转载自:

 

 

String.getBytes()的问题

String 的getBytes()方法是得到一个字串的字节数组,这是众所周知的。但特别要注意的是,本方法将返回该操作系统默认的编码格式的字节数组。如果你在使 用这个方法时不考虑到这一点,你会发现在一个平台上运行良好的系统,放到另外一台机器后会产生意想不到的问题。比如下面的程序:
class TestCharset { 
public static void main(String[] args) { 
new TestCharset().execute(); 
private void execute() { 
String s = "Hello!你好!"; 
byte[] bytes = s.getBytes();
System.out.println("bytes lenght is:" + bytes.length); 
}

在一个中文WindowsXP系统下,运行时,结果为:

bytes lenght is:12

但是如果放到了一个英文的UNIX环境下运行:

$ java TestCharset bytes lenght is:9

如果你的程序依赖于该结果,将在后续操作中引起问题。为什么在一个系统中结果为12,而在另外一个却变成了9了呢?上面已经提到了,该方法是和平台(编码)相关的。

在中文操作系统中,getBytes方法返回的是一个GBK或者GB2312的中文编码的字节数组,其中中文字符,各占两个字节。而在英文平台中,一般的默认编码是“ISO-8859-1”,每个字符都只取一个字节(而不管是否非拉丁字符)。

Java中的编码支持

Java是支持多国编码的,在Java中,字符都是以Unicode进行存储的,比如,“你”字的Unicode编码是“4f60”,我们可以通过下面的实验代码来验证:

 

class TestCharset { 
public static void main(String[] args) { 
char c = ''你''; 
int i = c; 
System.out.println(c); 
System.out.println(i); 
}

不管你在任何平台上执行,都会有相同的输出:

 

20320

20320就是Unicode “4f60”的整数值。其实,你可以反编译上面的类,可以发现在生成的.class文件中字符“你”(或者其它任何中文字串)本身就是以Unicode编码进行存储的:

 

char c = ''/u4F60''; ... ...

即使你知道了编码的编码格式,比如:

 

javac -encoding GBK TestCharset.java

编译后生成的.class文件中仍然是以Unicode格式存储中文字符或字符串的。使用String.getBytes(String charset)方法

所以,为了避免这种问题,我建议大家都在编码中使用String.getBytes(String charset)方法。下面我们将从字串分别提取ISO-8859-1和GBK两种编码格式的字节数组,看看会有什么结果:

[java] view plain copy
  1. package org.bruce.file.handle.experiment;  
  2.   
  3. class TestCharset3 {  
  4.     public static void main(String[] args) {  
  5.         new TestCharset3().execute();  
  6.     }  
  7.   
  8.     private void execute() {  
  9.         String s = "Hello!你好!";  
  10.         byte[] bytesISO8859 = null;  
  11.         byte[] bytesGBK = null;  
  12.         try {  
  13.             bytesISO8859 = s.getBytes("iso-8859-1");  
  14.             bytesGBK = s.getBytes("GBK");  
  15.         } catch (java.io.UnsupportedEncodingException e) {  
  16.             e.printStackTrace();  
  17.         }  
  18.         System.out.println("-------------- /n 8859 bytes:");  
  19.         System.out.println("bytes is: " + arrayToString(bytesISO8859));  
  20.         System.out.println("hex format is:" + encodeHex(bytesISO8859));  
  21.         System.out.println();  
  22.         System.out.println("-------------- /n GBK bytes:");  
  23.         System.out.println("bytes is: " + arrayToString(bytesGBK));  
  24.         System.out.println("hex format is:" + encodeHex(bytesGBK));  
  25.     }  
  26.   
  27.     public static final String encodeHex(byte[] bytes) {  
  28.         StringBuffer buff = new StringBuffer(bytes.length * 2);  
  29.         String b;  
  30.         for (int i = 0; i < bytes.length; i++) {  
  31.             b = Integer.toHexString(bytes[i]);  
  32.             // byte是两个字节的, 而上面的Integer.toHexString会把字节扩展为4个字节  
  33.             buff.append(b.length() > 2 ? b.substring(68) : b);  
  34.             buff.append(" ");  
  35.         }  
  36.         return buff.toString();  
  37.     }  
  38.   
  39.     public static final String arrayToString(byte[] bytes) {  
  40.         StringBuffer buff = new StringBuffer();  
  41.         for (int i = 0; i < bytes.length; i++) {  
  42.             buff.append(bytes[i] + " ");  
  43.         }  
  44.         return buff.toString();  
  45.     }  
  46. }  

执行上面程序将打印出:

 

-------------- 8859 bytes: bytes is: 72 101 108 108 111 33 63 63 63 
hex format is:48 65 6c 6c 6f 21 3f 3f 3f 
--------------  GBK bytes: bytes is: 72 101 108 108 111 33 -60 -29 -70 -61 -93 -95 
hex format is:48 65 6c 6c 6f 21 c4 e3 ba c3 a3 a1

可见,在s中提取的8859-1格式的字节数组长度为9,中文字符都变成了“63”,ASCII码为63的是“?”,一些国外的程序在国内中文环境下运行时,经常出现乱码,上面布满了“?”,就是因为编码没有进行正确处理的结果。

而提取的GBK编码的字节数组中正确得到了中文字符的GBK编码。字符“你”“好”“!”的GBK编码分别是:“c4e3”“bac3”“a3a1”。得到了正确的以GBK编码的字节数组,以后需要还原为中文字串时,可以使用下面方法:

 

new String(byte[] bytes, String charset)

 



   mysql 不支持 unicode,所以比较麻烦。
   将 connectionString 设置成 encoding 为 gb2312
   String connectionString
   = "jdbc:mysql://localhost/test?useUnicode=true&characterEncoding=gb2312";
  
  测试代码:
   String str = "汉字";
   PreparedStatement pStmt = conn.prepareStatement("INSERT INTO test VALUES (?)");
   pStmt.setString(1,str);
   pStmt.executeUpdate();
  
   数据库表格:
   create table test (
   name char(10)
   )
  
  
  连接  Oracle Database Server
  -------------------------------------------------------------------------------
   在把汉字字符串插入数据库前做如下转换操作:
   String(str.getBytes("ISO8859_1"),"gb2312")
  
  测试代码:
   String str = "汉字";
   PreparedStatement pStmt = conn.prepareStatement("INSERT INTO test VALUES (?)");
   pStmt.setString(1,new String(str.getBytes("ISO8859_1"),"gb2312");
   pStmt.executeUpdate();
  
  
  Servlet
  -------------------------------------------------------------------------------
   在 Servlet 开头加上两句话:
   response.setContentType("text/html;charset=UTF-8");
   request.setCharacterEncoding("UTF-8");
  
  JSP
  -------------------------------------------------------------------------------

 

asp.net-mvc – 如何GetBytes()在C#与UTF8编码与BOM?

asp.net-mvc – 如何GetBytes()在C#与UTF8编码与BOM?

我在我的asp.net mvc 2应用程序在C#中的UTF8编码有问题。我试图让用户从一个字符串下载一个简单的文本文件。我试图得到字节数组与下面这行:

var x = Encoding.UTF8.GetBytes(csvString);

但是当我返回它下载使用:

return File(x,…,…);

我得到一个没有BOM的文件,所以我没有正确显示克罗地亚字符。这是因为我的字节数组在编码后不包括BOM。我三次手动插入这些字节,然后它显示正确,但这不是最好的方法做到。

我也尝试创建UTF8Encoding类实例,并传递一个布尔值(true)到其构造函数以包括BOM,但它也不工作。

任何人都有解决方案?谢谢!

解决方法

尝试这样:
public ActionResult Download()
{
    var data = Encoding.UTF8.GetBytes("some data");
    var result = Encoding.UTF8.GetPreamble().Concat(data).ToArray();
    return File(result,"application/csv","foo.csv");
}

原因是,采用布尔参数的UTF8Encoding构造函数不会执行您期望的操作:

byte[] bytes = new UTF8Encoding(true).GetBytes("a");

结果数组将包含值为97的单个字节。没有BOM,因为UTF8不需要BOM。

byte[] to UTF8 to JSON string 是二进制数据的安全编码吗?

byte[] to UTF8 to JSON string 是二进制数据的安全编码吗?

如何解决byte[] to UTF8 to JSON string 是二进制数据的安全编码吗??

我希望在文本文件中将 HTML POST 请求的正文记录到我的 Web API。我想要它,以便“人类可读”的字符可以轻松查看,所以我不想将其编码为 base64,但我还需要对所有非“人类可读”的字节进行安全编码,以便它们可以始终恢复为与输入数组完全相同的 byte[]

以下代码是否总是将所有不可读字节安全地存储为 JSON 转义序列,同时将可读字符存储为它们本身?

byte[] bodyBytes = GetBodyBytes(ctx);
var bodyString = System.Text.Encoding.UTF8.GetString(bodyBytes);
var safeString = Newtonsoft.Json.JsonConvert.SerializeObject(new { bodyString });

我马上就看到的一个问题是,这会将换行序列简单地存储为 \n,从而丢失有关它们是否使用 Windows 或 Unix 样式的换行字节的数据。我如何才能避免丢失任何此类数据,同时尽可能保持人类可读?

解决方法

最后,我推出了自己的编码,因为我的要求可能过于具体,现有编码方案无法完全实现。这是我创建的方法:

private string UltraSafeEncode(byte[] bytes) {
    if (bytes == null) {
        throw new ArgumentNullException(nameof(bytes));
    }

    var sb = new System.Text.StringBuilder();

    foreach (var thisByte in bytes) {
        if (thisByte < 32 || thisByte == 92 || thisByte > 126) {
            sb.Append(''\\'').AppendFormat("{0:x2}",thisByte);
            continue;
        }

        sb.Append((char)thisByte);
    }

    return sb.ToString();
}

byte[]->new String(byte[]) -> getByte()引发的不一致问题

byte[]->new String(byte[]) -> getByte()引发的不一致问题

今天接短信接口,短信接口提供了sdk,我们可以直接用sdk发送请求然后发送对应短信。

但是想使用我们平台自定义的httpUtil实现。

 

然而忙了1天半,才解决这个问题,还是我同事帮忙找出问题并解决的。

 

 步骤:

  1、请求信息转json

  2、json走AES加密得到byte[]

  3、将byte[]放入post请求发送,并接受响应。

sdk直接成功,它是自己基于HttpURLConnection封装的一套HttpUtil,直接接受了byte[]作为请求参数,使用post发送响应成功

我们的HttpUtil是基于HttpClient封装而来,post方法只能接受String或Map参数,于是将加密后的byte[] 进行new String()操作后传入,跟进信息,底层将该String采用getByte("UTF-8")进行转换给Request然后请求。一直返回解密失败。

反复调试,将contentType指定为text/plain,编码统一都是UTF-8。但依旧一直该错误。对比两种方式加密后byte[],没有区别。最后发现使用new String(byte[])之后getByte()得到的byte[]容量变大,颠覆我的认知了,byte[]数组经过指定编码new String()然后经过指定编码getByte[]得到的居然不一致。后面定位原因是我系统默认的编码和指定的编码都是UTF-8,但是AES加密产生的byte[]的编码是ISO-8859-1,导致得到的byte[]不是原来的byte[],所以解密失败。

 

 

 

 也就是说我前面解码byte[]得到字符串的时候使用了错误编码,导致后面getByte指定错误编码得到的字符串解密后不是原来的样子。

 

今天关于'str = new Stringbytes,“ UTF8”'和'bytes = str.getBytes的讲解已经结束,谢谢您的阅读,如果想了解更多关于(透彻)java String.getBytes()编码问题、asp.net-mvc – 如何GetBytes()在C#与UTF8编码与BOM?、byte[] to UTF8 to JSON string 是二进制数据的安全编码吗?、byte[]->new String(byte[]) -> getByte()引发的不一致问题的相关知识,请在本站搜索。

本文标签: