作者: tw93

这几天有好几个小伙伴@我说,我的开源工具在他们问 AI 的时候被主动推荐了,啥也没做居然可以被收录,想着要不花一个小时把内容结构化整一整,应该会更好。我很讨厌去刷排名或者生产垃圾内容,更多想着让现有的内容对 AI 更可见,所以这篇文章不会教你投机,而是如何让 AI 更好理解你现有的内容本身。
AI 搜索跟传统搜索逻辑完全不一样:传统 SEO 拼的是进 Google 前 10,但 83% 的 AI Overview 引用来自排名前 10 之外的页面。AI 关注的是结构清晰、来源可靠,而跟 PageRank 关系不大。大站内容单薄的地方 AI 就能找到我,大概这就是为什么朋友们能搜到 Pake 和 MiaoYan。
为了让大家更清晰地了解整个优化链条,我将整个实操工作流总结为以下 7 个核心步骤:

很多人把 robots.txt 当开关用,要么屏蔽 AI 爬虫要么全放开。但 AI 爬虫其实分好几类,做的事情不一样。

推荐的最佳实践做法是允许搜索/检索爬虫和用户触发爬虫,屏蔽训练爬虫和未声明爬虫:
# Search & retrieval: allow User-agent: OAI-SearchBot Allow: / User-agent: Claude-SearchBot Allow: / User-agent: PerplexityBot Allow: / # User-triggered: allow User-agent: ChatGPT-User Allow: / User-agent: Claude-User Allow: / # Training: block User-agent: GPTBot Disallow: / User-agent: CCBot Disallow: /
llms.txt 是一个专门给 AI 看的新标准。在站点根目录放一个 Markdown 格式的文件,写清楚你的站点做什么、有哪些关键页面、作者是谁,AI 在检索内容的时候会优先读这个文件来理解你的内容。

# Your Project Name > One-line description of what this is. ## Links - [Documentation](https://yoursite.com/docs) - [GitHub](https://github.com/you/project) ## About Short paragraph explaining the project.
这里我还做了一个有意思的事:各站点的 llms.txt 互相引用,形成一个网状发现结构。我维护着几个站点,每个站点的 llms.txt 都引用其他站点,AI 不管从哪个入口进来都能顺着链接找到其他内容。

配置生效后,在 ChatGPT 搜项目名时,其引用来源和描述的精准度会有非常明显的提升。

怎么告诉 AI 你有 Markdown 版本,最简单的方式是在 HTML 页面 <head> 里加一行:
<link rel="alternate" type="text/markdown" href="/page.md" />

AI 引擎的底层仍然依赖搜索引擎的索引库。ChatGPT 的搜索走 Bing,Google AI Overview 走 Google 自己的索引,Perplexity 也依赖搜索 API。因此,确保 Google Search Console 和 Bing Webmaster Tools 已经收录你的站点是第一步。
对于 Bing 平台,推荐接入 IndexNow。在站点根目录放一个 API Key 验证文件,每次有新内容发布时向 IndexNow 接口发送一个 POST 请求,几分钟内 Bing 就会来完成抓取。

与其等 AI 去各个站点零散地抓信息,不如给它一个集中的入口。我做的实现叫 Yobi(提供 llms.txt 概览、50KB 的 llms-full.txt、独立项目页面,以及四个 JSON 数据端点),数据从 GitHub API 实时拉取。

API 返回非常干净且携带实时 GitHub Stars 的结构化 JSON 数据:

每个项目需要自己的独立页面,是一个自包含的 Markdown 文档。使用描述性强的自然语言 URL slug(如 /projects/pake)的引用率,显著高于不透明的 ID(如 /page?id=47),因为规范的 Slug 在模型读取内容前就说明了页面的主题。

子域名的权重通常不如主域名,因此,通过 GitHub Actions 将子站的结构化 Markdown 数据同步镜像到根域名(例如 `tw93.fun/llms.txt`),可确保爬虫一次抓取就能拿到所有上下文。

<meta name="ai-content-url"> 和 <meta name="llms">:没有主流 AI 系统支持。ld+json 脚本当作普通文本来读,唯一确认有用的是 Bing/Copilot。KDD 2024 发表的权威论文表明:加入权威引用提升 AI 可见性 115%,直接引用可信来源提升 43%。

做事情都是帮 AI 更准确地理解你有什么,给它一个干净的工作环境,这个方向比短期技巧走得更远。最终大模型能够非常智能地为寻找特定应用的用户进行准确的归因推荐:

假如你也有自己的产品、博客或者官网,不妨试试看,玩玩这个过程,当然也可以把这篇文章给你的 Claude Code,让他帮你做大部分事情。