如何在 Python 中使用 ul-li 下拉列表抓取网站？

Question

基于问题Scraping a specific website with a search box and javascripts in Python，我试图从网站https://www.msci.com/esg-ratings/中获取公司评级 ，主要是在搜索框，在下拉菜单中选择该名称的所有选项（“RIO TINTO LIMITED”和“RIO TINTO PLC”此处为“rio tinto”），并在两者的右上角获得带有评级的图片。但是，我在处理建议公司的 ul-li 退出菜单时遇到了麻烦：from selenium import webdriverfrom selenium.webdriver.support.ui import WebDriverWaitfrom selenium.webdriver.support import expected_conditions as ECfrom selenium.webdriver.common.by import Byoptions = webdriver.ChromeOptions()options.add_argument('-headless')options.add_argument('-no-sandbox')options.add_argument('-disable-dev-shm-usage')options.add_argument('window-size=1920,1080')wd = webdriver.Chrome(options=options)wd.get('https://www.msci.com/esg-ratings')WebDriverWait(wd, 20).until(EC.element_to_be_clickable((By.XPATH, '//*[@id="_esgratingsprofile_keywords"]'))).send_keys("RIO TINTO")WebDriverWait(wd, 20).until(EC.element_to_be_clickable((By.XPATH, '//*[@id="ui-id-1"]/li[1]'))).click()#WebDriverWait(wd,10).until(EC.visibility_of_element_located((By.CSS_SELECTOR,"#_esgratingsprofile_esg-ratings-profile-header > div.esg-ratings-profile-header-ratingdata > div.ratingdata-container > div.ratingdata-outercircle.esgratings-profile-header-yellow > div")))print(wd.find_element_by_xpath('//*[@id="_esgratingsprofile_esg-ratings-profile-header"]/div[2]/div[1]/div[2]/div'))（代码给出了 ElementClickInterceptedException。）如何访问“RIO TINTO LIMITED”和“RIO TINTO PLC”所需的数据？

Answer 1

我在处理推荐公司的 ul-li 退出菜单时遇到了麻烦

这是预期的，因为element您的目标是通过dynamic脚本呈现的。options.add_argument('-headless')为了克服这一点，你将不得不避免。

你这里也有问题

print(wd.find_element_by_xpath('//*[@id="_esgratingsprofile_esg-ratings-profile-header"]/div[2]/div[1]/div[2]/div'))

您尝试打印元素的位置。由于目标元素是icon由呈现的CSS，因此您不能使用print()来输出它。相反，您需要将其保存为一个.png文件

with open('filename.png', 'wb') as file:

    file.write(driver.find_element_by_xpath('//*[@id="_esgratingsprofile_esg-ratings-profile-header"]/div[2]/div[1]/div[2]/div').screenshot_as_png)

然后根据您的需要使用它。