使用 HTMLRewriter 提取网页中的链接 - Bun 中文文档

从网页中提取链接

Bun 的 HTMLRewriter API 可从 HTML 中提取链接。通过 CSS 选择器链匹配要处理的元素、文本和属性。然后将 Response、ArrayBuffer 或 string 传递给 .transform。

extract-links.ts

async function extractLinks(url: string) {
  const links = new Set<string>();
  const response = await fetch(url);

  const rewriter = new HTMLRewriter().on("a[href]", {
    element(el) {
      const href = el.getAttribute("href");
      if (href) {
        links.add(href);
      }
    },
  });

  // 等待响应被处理完成
  await rewriter.transform(response).blob();
  console.log([...links]); // ["https://bun.com", "/docs", ...]
}

// 从 Bun 网站提取所有链接
await extractLinks("https://bun.com");

将相对 URL 转换为绝对 URL

抓取网站时，你通常需要将相对 URL（例如 /docs）转换为绝对 URL：

extract-links.ts

async function extractLinksFromURL(url: string) {
  const response = await fetch(url);
  const links = new Set<string>();

  const rewriter = new HTMLRewriter().on("a[href]", {
    element(el) {
      const href = el.getAttribute("href");
      if (href) {
        // 将相对 URL 转换为绝对 URL
        try { 
          const absoluteURL = new URL(href, url).href; 
          links.add(absoluteURL);
        } catch { 
          links.add(href); 
        } 
      }
    },
  });

  // 等待响应被处理完成
  await rewriter.transform(response).blob();
  return [...links];
}

const websiteLinks = await extractLinksFromURL("https://example.com");

请参阅 HTMLRewriter。