为了账号安全,请及时绑定邮箱和手机立即绑定

将 colly 包输出文本添加到 golang 中的映射

将 colly 包输出文本添加到 golang 中的映射

Go
宝慕林4294392 2023-03-15 14:52:59
我正在用 colly 包制作一个网络抓取工具,它从一个网站收集ContestName和ContestTime制作一个 json 文件。所以我喜欢这个    Contests := make(map[string]map[string]map[string]map[string]string)        Contests["AtCoder"] = make(map[string]map[string]map[string]string)    Contests["AtCoder"]["FutureContests"] = make(map[string]map[string]string)    AtcoderFunc(Contests).................code..........func AtcoderFunc(Contests map[string]map[string]map[string]map[string]string) {    collector := colly.NewCollector(        colly.AllowedDomains("atcoder.jp", "www.atcoder.jp"),    )    // loc, _ := time.LoadLocation("Asia/Calcutta")    // format := "2006-01-02 15:04:05"    // var i int    format := "2006-01-02 15:04:05-0700"    loc, _ := time.LoadLocation("Asia/Calcutta")    for i := 1; i < 10; i++ {        ContestSelTime := fmt.Sprintf("#contest-table-upcoming  div  div  table  tbody  tr:nth-child(%d)  td:nth-child(1)  a", i+1)        ContestSelName := fmt.Sprintf("#contest-table-upcoming  div  div  table  tbody  tr:nth-child(%d)  td:nth-child(2)", i)        // for contest name        collector.OnHTML(ContestSelName, func(element *colly.HTMLElement) {            ContestName := element.ChildText("a")            fmt.Printf("%T \n", ContestName)            fmt.Println(ContestName) // instead of printing i want to add it to the Contests["AtCoder"]["FutureContests"] map and print like json                     })        // for contestTime        collector.OnHTML(ContestSelTime, func(element *colly.HTMLElement) {            ContestStartTime := element.ChildText("time")            parsed_time, _ := time.Parse(format, ContestStartTime)            IST_time := parsed_time.In(loc)            fmt.Println("Time in IST", IST_time) // instead of printing i want to add it to the Contests["AtCoder"]["FutureContests"] map.        })    }但它给出了错误cannot use (map[string]string literal) (value of type map[string]string) as map[string]map[string]string value in assignment任何想法?
查看完整描述

1 回答

?
收到一只叮咚

TA贡献1821条经验 获得超5个赞

错误在地图分配中。管理如此嵌套的结构非常困难,但我找到了成功处理它的方法。让我展示代码:


package main


import (

    "encoding/json"

    "fmt"

    "strconv"

    "time"


    "github.com/gocolly/colly/v2"

)


type contest struct{}


func AtcoderFunc(contests map[string]map[string]map[string]string) {

    collector := colly.NewCollector(

        colly.AllowedDomains("atcoder.jp", "www.atcoder.jp"),

    )


    format := "2006-01-02 15:04:05-0700"

    loc, _ := time.LoadLocation("Asia/Calcutta")


    contests["UpcomingContest"] = make(map[string]map[string]string)


    for i := 1; i < 3; i++ {

        rawI := strconv.Itoa(i)

        contests["UpcomingContest"][rawI] = make(map[string]string)


        contestSelTime := fmt.Sprintf("#contest-table-upcoming  div  div  table  tbody  tr:nth-child(%d)  td:nth-child(1)  a", i+1)

        contestSelName := fmt.Sprintf("#contest-table-upcoming  div  div  table  tbody  tr:nth-child(%d)  td:nth-child(2)", i)


        // for contest name

        collector.OnHTML(contestSelName, func(element *colly.HTMLElement) {

            contestName := element.ChildText("a")

            contests["UpcomingContest"][rawI]["Name"] = contestName

        })


        // for contestTime

        collector.OnHTML(contestSelTime, func(element *colly.HTMLElement) {

            ContestStartTime := element.ChildText("time")

            parsed_time, _ := time.Parse(format, ContestStartTime)

            IST_time := parsed_time.In(loc)

            contests["UpcomingContest"][rawI]["Time"] = fmt.Sprint(IST_time)

        })

    }


    collector.OnRequest(func(r *colly.Request) {

        fmt.Println("Visiting", r.URL.String())

    })


    collector.Visit("https://atcoder.jp/contests")

}


func main() {

    contests := make(map[string]map[string]map[string]map[string]string)

    contests["AtCoder"] = make(map[string]map[string]map[string]string)


    AtcoderFunc(contests["AtCoder"])


    data, _ := json.MarshalIndent(contests, "", "  ")

    fmt.Println(string(data))

}

我或多或少保留了你的结构。除了解决这个问题之外,我通过更改一些名称并删除未使用的语句来稍微重构了您的示例。最后,我使用MarshalIndent函数美化了打印到终端上的 JSON 字符串。

让我知道是否也适合你!


查看完整回答
反对 回复 2023-03-15
  • 1 回答
  • 0 关注
  • 100 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
微信客服

购课补贴
联系客服咨询优惠详情

帮助反馈 APP下载

慕课网APP
您的移动学习伙伴

公众号

扫描二维码
关注慕课网微信公众号