Meta搜索引擎是一种通过聚合多个独立搜索引擎结果来提供更全面搜索结果的工具。它不维护自己的网页索引，而是将用户查询转发给其他搜索引擎并整合返回的结果。
Meta页面描述（Meta Description）和关键词（Meta Keywords）是HTML中的元标签，用于向搜索引擎提供网页内容的摘要和核心关键词。
Meta Robots 详解1. 什么是 Meta Robots？meta name="robots" 是 HTML 的元标签，用于控制搜索引擎爬虫如何索引和跟踪网页内容。2. 如何设置 Meta Robots？在网页的 head 部分添加以下代码：其中 content 属性可包含多个指令，用逗号分隔。3. 常用 Meta Robots 指令及示例指令作用示例i
robots.txt 是一个文本文件，用于指导网络爬虫（如搜索引擎的爬虫）如何访问和抓取网站的内容。它通常放置在网站的根目录下，通过指定允许或禁止爬虫访问的路径来控制爬虫的行为。基本格式示例禁止所有爬虫访问整个网站允许所有爬虫访问整个网站禁止特定爬虫访问特定目录允许特定爬虫访问特定目录注意事项robots.txt 只是一个建议，爬虫可以选择忽略它。敏感信息不应仅依赖 robots.txt 来保护，
要查看网站的robots.txt文件，只需在浏览器地址栏中输入网站的域名，后面加上/robots.txt。例如，如果你想查看Google的robots.txt文件，可以输入https://www.google.com/robots.txt。这个文件通常包含网站对搜索引擎爬虫的访问规则，指示哪些页面可以被抓取，哪些页面应该被忽略。
robots.txt 文件中的 Disallow 指令用于告诉搜索引擎爬虫哪些页面或目录不应被访问。例如：这表示所有爬虫 (*) 不应访问 /private/ 目录下的内容。
