脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → Golang → golang抓取网页并分析页面包含的链接

golang抓取网页并分析页面包含的链接方法

 更新时间：2019年08月26日 09:24:24   作者：仰天笑  
今天小编就为大家分享一篇golang抓取网页并分析页面包含的链接方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

1. 下载非标准的包,"golang.org/x/net/html"

2. 先安装git，使用git命令下载

git clone https://github.com/golang/net

3. 将net包，放到GOROOT路径下

比如：

我的是：GOROOT = E:\go\

所以最终目录是：E:\go\src\golang.org\x\net

注意：如果没有golang.org和x文件夹，就创建

4. 创建fetch目录，在其下创建main.go文件，main.go文件代码内容如下：

package main
 
import (
 "os"
 "net/http"
 "fmt"
 "io/ioutil"
)
 
func main() {
 for _, url := range os.Args[1:] {
 resp, err := http.Get(url)
 if err != nil {
  fmt.Fprintf(os.Stderr, "fetch: %v\n", err)
 }
 b, err := ioutil.ReadAll(resp.Body)
 resp.Body.Close()
 if err != nil {
  fmt.Fprintf(os.Stderr, "fetch: reading %s: %v\n", url, err)
  os.Exit(1)
 }
 fmt.Printf("%s",b)
 }
}

5. 编译fetch

go build test.com\justin\demo\fetch

注意：test.com\justin\demo\ 是我的项目路径，具体编译根据自己项目路径编译。

6. 执行fetch.exe 文件

fetch.exe https://www.qq.com

注意：https://www.qq.com是要爬的网址，配置正确的话，会打印出网址的HTML内容。如果没有，请检查以上步骤是否正确。

7. 网页已经抓取了，那么剩下就分析页面包含的链接了，创建findlinks目录，在其下创建main.go文件，main.go文件代码内容如下：

package main
 
import (
 "os"
 "fmt"
 "golang.org/x/net/html"
)
 
func main() {
 doc, err := html.Parse(os.Stdin)
 if err != nil {
 fmt.Fprint(os.Stderr, "findlinks: %v\n", err)
 os.Exit(1)
 }
 for _, link := range visit(nil, doc) {
 fmt.Println(link)
 }
}
 
func visit(links []string, n *html.Node) []string {
 if n.Type == html.ElementNode && n.Data == "a" {
 for _, a := range n.Attr {
  if a.Key == "href" {
  links = append(links, a.Val)
  }
 }
 }
 for c := n.FirstChild; c != nil; c = c.NextSibling {
 links = visit(links, c)
 }
 return links
}

8. 编译findlinks

go build test.com\justin\demo\findlinks

注意：test.com\justin\demo\ 是我的项目路径，具体编译根据自己项目路径编译。

9. 执行findlinks.exe 文件

fetch.exe https://www.qq.com | findlinks.exe

> 10. 执行后结果：获取到各种不同形式的超链接

以上这篇golang抓取网页并分析页面包含的链接方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

相关文章

  • Go语句与表达式案例手册深度解析

    Go语句与表达式案例手册深度解析

    这篇文章主要为大家介绍了Go语句与表达式案例手册深度解析,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2023-09-09
  • Golang使用反射的动态方法调用详解

    Golang使用反射的动态方法调用详解

    Go是一种静态类型的语言，提供了大量的安全性和性能。这篇文章主要和大家介绍一下Golang使用反射的动态方法调用，感兴趣的小伙伴可以了解一下
    2023-03-03
  • 解决golang内存溢出的方法

    解决golang内存溢出的方法

    这篇文章主要介绍了解决golang内存溢出的方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2019-08-08
  • Go中时间与时区问题的深入讲解

    Go中时间与时区问题的深入讲解

    go语言中如果不设置指定的时区,通过time.Now()获取到的就是本地时区,下面这篇文章主要给大家介绍了关于Go中时间与时区问题的相关资料,需要的朋友可以参考下
    2021-12-12
  • Golang实现对map的并发读写的方法示例

    Golang实现对map的并发读写的方法示例

    这篇文章主要介绍了Golang实现对map的并发读写的方法示例，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧
    2019-03-03
  • Go 语言单例模式示例详解

    Go 语言单例模式示例详解

    这篇文章主要为大家介绍了Go 语言单例模式示例详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪
    2022-10-10
  • Golang使用Apache PLC4X连接modbus的示例代码

    Golang使用Apache PLC4X连接modbus的示例代码

    Modbus是一种串行通信协议,是Modicon公司于1979年为使用可编程逻辑控制器（PLC）通信而发表,这篇文章主要介绍了Golang使用Apache PLC4X连接modbus的示例代码,需要的朋友可以参考下
    2024-07-07
  • golang中interface接口的深度解析

    golang中interface接口的深度解析

    什么是interface，简单的说，interface是一组method的组合，下面这篇文章主要给大家深度解析了关于golang中的interface接口，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧。
    2017-11-11
  • pytorch中的transforms.ToTensor和transforms.Normalize的实现

    pytorch中的transforms.ToTensor和transforms.Normalize的实现

    本文主要介绍了pytorch中的transforms.ToTensor和transforms.Normalize的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2022-04-04
  • Go接口构建可扩展Go应用示例详解

    Go接口构建可扩展Go应用示例详解

    本文深入探讨了Go语言中接口的概念和实际应用场景。从基础知识如接口的定义和实现，到更复杂的实战应用如解耦与抽象、多态、错误处理、插件架构以及资源管理，文章通过丰富的代码示例和详细的解释，展示了Go接口在软件开发中的强大功能和灵活性
    2023-10-10

最新评论