java获取网页代码乱码 java获取网页源代码

java爬虫一段话里的部分字符乱码解决

1. 网络爬虫乱码的原因。

目前创新互联公司已为近1000家的企业提供了网站建设、域名、雅安服务器托管、网站托管维护、企业网站设计、吉州网站维护等服务，公司将坚持客户导向、应用为本的策略，正道将秉承"和谐、参与、激情"的文化，与客户和合作伙伴齐心协力一起成长，共同发展。

源网页的编码与抓取后的编码转换不一致。如果源网页是gbk编码的字节流，程序在我们抓取后直接用utf-8编码输出到存储文件，这必然会造成乱码，即当源网页编码与程序抓取后直接处理编码一致时，就不会出现乱码，然后统一字符编码后也就不会出现乱码。注意区分源网络代码A，程序B直接使用的代码，统一转换字符的代码C。

2. 是网页的服务器端代码。

B.捕获的数据原本是字节数组，由A编码，只有B=A才能保证不会出现乱码；否则，当字符集不兼容时，就会出现乱码字符。这一步常用于测试。

c、统一转码是指在获得网页的原始编码A后进行统一编码，主要是将每个网页的数据统一成一种编码，往往首选字符集较大的utf-8。

每个网页都有自己的代码，比如gbk，utf-8，iso8859-1，日本jp系统代码，西欧，俄语等等。爬行时，所有类型的代码都将被扩展。有的爬虫只是简单的识别网页，然后统一编码，有的则直接按照utf-8统一处理，不需要判断源网页，显然会造成乱码。

3. 乱码的解决方案。

根据原因找到解决办法很简单。

1) 确定源网页的代码a。

代码a通常位于网页的三个位置，即httpheader的内容、网页的元字符集和网页标题中的文档定义。获取源网页代码时，依次判断这三部分数据，从头到尾优先级相同。

理论上这是对的，但是国内有些网站不符合标准。比如写出来的gbk其实是utf-8，有的写出来是utf-8，其实是gbk。当然这是几个网站，但是确实存在。因此，在确定网页编码时，应该对这种特殊情况给予特殊处理，如中文检查、默认编码等策略。

在另一种情况下，如果以上三种都没有编码信息，一般使用第三方的网页编码智能识别工具，如cpdetector。原理是通过统计字节数组的特性来计算实际编码，有一定的准确率，但是我发现在实践中准确率还是很有限的。

但是综合以上三种编码确认方法后，中文乱码的问题几乎可以完全解决。在我的基于nutch1.6的网络爬虫系统中，经过统计，编码准确率可以达到99.99%，这也证明了上述方法和策略的可行性。

2) 程序通过代码b还原源网页数据。

显然，这里的B应该等于a，在java中，如果源网页的字节数组是source_byte_array，就会转换成stringstr=newstring(source_byte_array，B)。即这些字节数组对应的字符被正确编码显示在内存中，此时打印结果正常。此步骤通常用于调试或控制台输出测试。

3) 统一转码。

网络爬虫系统中有很多数据源。如果无法使用数据，它将被转换为其原始数据，如果这样做是浪费的。所以一般爬虫系统要对抓取的结果进行统一编码，做到一致，使用方便。此时，在(2)的基础上，可以进行统一的编码转换，在java中的实现如下。

源网页的字节数组是source_byte_array。

转换为普通字符串:stringnormal_source_str=newstring(source_byte_array，c)。这时候可以直接用javaapi存储，但是字符串往往不直接写。因为一般爬虫存储是将多个源网页存储在一个文件中，所以要记录字节偏移量，所以下一步。 再将得到的str转换为统一的编码C格式的字节数组,则byte[] new_byte_array=normal_source_str.getBytes(C)即可，此时即可用java io api将数组写入文件，并记录相应的字节数组偏移量等，待真正使用时，直接io读取即可。

爬虫过程不仅会存在乱码问题，还会存在网站爬取涉及法律、IP受限，爬取行为受限等等问题，这个时候就需要不断去解决这些问题。

java写的网页抓取，出现了乱码情况，求教。

这个跟你要抓取的网页相关、

你要看网页默认设置的是什么

编码

。比如

百度

:在

页面

上点右键

选择编码

默认的为gb2312

所以你抓百度的时候就应该用gb2312

、而csdn默认的是utf-8、你抓取的时候就应该设置成utf-8。亲测可用、希望能帮到你。

(测试环境

ie

、空白地方点右键

找到编码就能看到页面的默认编码、不同

浏览器

查看编码情况不同，视情况而定)

JAVA通过HTML获取网页内容，中文显示乱码

java内部编码使用utf-16，需要先用网页的编码解析从网页获取的bytes数组，例如如果网页用gbk，转换可以写成new String(bytes,"gbk")。

另外你的流读取有点怪，应该是写错了吧

用java HttpURLConnection 读取网页中文乱码

出现这种情况，说明读取到的是iso8859-1格式，不能识别中文编码，所以需要转换一下编码格式才可以正常显示的，完整代码举例：

String data = "version=1410idType=101idNumber=4107701214512ext1=1";

System.out.println(data);

URL url = new URL("");

StringBuffer bankXmlBuffer = new StringBuffer();

//创建URL连接，提交到银行卡鉴权，获取返回结果

HttpURLConnection connection = (HttpURLConnection) url.openConnection();

connection.setRequestMethod("GET");

connection.setDoOutput(true);

connection.setRequestProperty("User-Agent", "directclient");

PrintWriter out = new PrintWriter(connection.getOutputStream());

out.println(data);

out.close();

BufferedReader in = new BufferedReader(new InputStreamReader(connection

.getInputStream()));

String inputLine;

while ((inputLine = in.readLine()) != null) {

bankXmlBuffer.append(inputLine);

}

in.close();

String data = new String(bankXmlBuffer.toString().getBytes("iso-8859-1"), “utf-8”);

System.out.println(data);