溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Java如何實現爬蟲

發布時間:2021-10-15 13:42:45 來源:億速云 閱讀:180 作者:小新 欄目:編程語言

這篇文章主要介紹了Java如何實現爬蟲,具有一定借鑒價值,感興趣的朋友可以參考下,希望大家閱讀完這篇文章之后大有收獲,下面讓小編帶著大家一起了解一下。

一、代碼

爬蟲的實質就是打開網頁源代碼進行匹配查找,然后獲取查找到的結果。

打開網頁:

URL url = new URL("http://www.cnblogs.com/Renyi-Fan/p/6896901.html");

讀取網頁內容:

BufferedReader bufr = new BufferedReader(new InputStreamReader(url.openStream()));

正則表達式進行匹配:

tring mail_regex = "\\w+@\\w+(\\.\\w+)+";

儲存結果:

List<String> list = new ArrayList<String>();

/*
* 獲取
* 將正則規則進行對象的封裝。
* Pattern p = Pattern.compile("a*b");
* //通過正則對象的matcher方法字符串相關聯。獲取要對字符串操作的匹配器對象Matcher .
* Matcher m = p.matcher("aaaaab");
* //通過Matcher匹配器對象的方法對字符串進行操作。
* boolean b = m.matches();
*/

import java.io.BufferedReader;
import java.io.FileNotFoundException;
import java.io.FileReader;
import java.io.IOException;
import java.io.InputStreamReader;
import java.net.URL;
import java.util.ArrayList;
import java.util.List;
import java.util.regex.Matcher;
import java.util.regex.Pattern;
 
public class Spider {
 
    public static void main(String[] args) throws IOException {
//        List<String> list = getMails();
//        for(String mail : list){
//            System.out.println(mail);
//        }
    
        List<String> list = getMailsByWeb();
        for(String mail : list){
            System.out.println(mail);
        }
    }
 
    public static List<String>  getMailsByWeb() throws IOException{
        //1,讀取源文件。
        //URL url = new URL("http://192.168.1.100:8080/myweb/mail.html");
        //URL url = new URL("http://localhost:8080/SecondWeb/index.jsp");
        URL url = new URL("http://www.cnblogs.com/Renyi-Fan/p/6896901.html");
 
        BufferedReader bufr = new BufferedReader(new InputStreamReader(url.openStream()));
 
 
        //2,對讀取的數據進行規則的匹配。從中獲取符合規則的數據.
        String mail_regex = "\\w+@\\w+(\\.\\w+)+";
 
        List<String> list = new ArrayList<String>();
 
        Pattern p = Pattern.compile(mail_regex);
        String line = null;
 
        while((line=bufr.readLine())!=null){
 
            Matcher m = p.matcher(line);
            while(m.find()){
                //3,將符合規則的數據存儲到集合中。
                list.add(m.group());
            }
 
        }
        return list;
    }
 
    public static List<String>  getMails() throws IOException{
        //1,讀取源文件。
        BufferedReader bufr = new BufferedReader(new FileReader("c:\\mail.html"));
 
 
        //2,對讀取的數據進行規則的匹配。從中獲取符合規則的數據.
        String mail_regex = "\\w+@\\w+(\\.\\w+)+";
 
        List<String> list = new ArrayList<String>();
 
        Pattern p = Pattern.compile(mail_regex);
        String line = null;
 
        while((line=bufr.readLine())!=null){
 
            Matcher m = p.matcher(line);
            while(m.find()){
                //3,將符合規則的數據存儲到集合中。
                list.add(m.group());
            }
 
        }
        return list;
    }
}

二、運行結果

abc1@sina.com.cn1@1.1

感謝你能夠認真閱讀完這篇文章,希望小編分享的“Java如何實現爬蟲”這篇文章對大家有幫助,同時也希望大家多多支持億速云,關注億速云行業資訊頻道,更多相關知識等著你來學習!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女