77 個字。這是 2026 年 9 月我們用 GPTBot 的身分去抓自己官網首頁,拿到的全部文字——而且那 77 個字是「應用載入失敗」的備援訊息。網站在瀏覽器裡看起來很正常,案例、團隊、聯絡表單一樣不少,但 AI 爬蟲看到的,是一個壞掉的頁面。
這不是個案。如果你的官網也有「在 ChatGPT 問不到我們公司」的困擾,先別急著改文案,照下面三步查一次。
AI 讀不到官網,通常是哪兩個原因?
第一個是門沒開。 robots.txt 是網站給爬蟲看的門牌,寫了 Disallow 的爬蟲就不會進來。OpenAI 的官方文件把自家爬蟲分得很清楚:GPTBot 抓的內容可能用於訓練模型;OAI-SearchBot 是讓網站出現在 ChatGPT 搜尋結果裡的那一隻;ChatGPT-User 則是使用者在對話中要求開某個網頁時才出動。前兩隻都會遵守 robots.txt,所以如果你只想「不被拿去訓練、但要被 ChatGPT 搜尋找到」,要擋的是 GPTBot,不是 OAI-SearchBot。
第二個是門開了,裡面卻是空的。 很多用 Vue、React 做的網站,原始 HTML 幾乎沒有內容,文字要等瀏覽器執行 JavaScript 之後才長出來。Google 的官方說明寫得很直白:伺服器端渲染或預先渲染仍然是好主意,因為「不是所有機器人都能執行 JavaScript」。
三步驟:用 GPTBot 的視角看自己的網站
- 看原始碼:在瀏覽器對首頁按右鍵「檢視網頁原始碼」(不是「檢查」),用 Ctrl+F 搜尋你公司名稱或服務名稱。原始碼裡找不到的字,不執行 JavaScript 的爬蟲也找不到。
- 換上爬蟲身分抓一次:請工程師用 curl 帶上 GPTBot 的 User-Agent 抓首頁,把 HTML 標籤拿掉後數一數剩多少字、有沒有 H1 標題、有沒有 JSON-LD 結構化資料。
- 每個網址都抓:不要只看首頁。我們的舊官網後來補了一段公司簡介,爬蟲可讀字數從 77 字變成 217 字,但實測發現每一個網址回傳的都是同一份 217 字——案例頁、資源頁、首頁在 AI 眼裡完全一樣。
我們自己的實測對照
| 項目 | 舊官網(Vue 單頁應用) | 新官網預覽(WordPress) |
|---|---|---|
| 首頁爬蟲可讀字數 | 77 字,補救後 217 字 | 1,640 字 |
| 案例總覽頁 | 同首頁的 217 字 | 1,920 字 |
| H1 標題 | 0 個 | 每頁 1 個 |
| JSON-LD 結構化資料 | 無 | 組織、網頁、文章、常見問題 |
數字來自 2026 年 9 月 24 日的實測,新官網仍在預覽環境。差別不在文案寫得多好,而在同樣的內容,爬蟲終於讀得到。
查出問題之後,該怎麼修?
門沒開的,改 robots.txt 就好,記得分清楚要放行哪一隻爬蟲。門開了但內容是空的,就要從架構下手:做伺服器端渲染、預先渲染,或像我們一樣把內容頁搬到會直接輸出完整 HTML 的系統,互動功能留在原本的應用裡。怎麼選,我們在Vue/SPA 網站的 SEO 與 AI 爬蟲問題裡有完整的取捨說明。
如果你想請我們幫你跑一次爬蟲視角的檢查,可以到聯絡頁留言。
常見問題
GPTBot 要不要擋?
看你的目的。依 OpenAI 官方說明,GPTBot 抓的內容可能用於訓練模型,OAI-SearchBot 才是讓網站出現在 ChatGPT 搜尋結果的爬蟲。只想避免被拿去訓練,就擋 GPTBot、放行 OAI-SearchBot。
擋掉 Google-Extended 會影響 Google 搜尋排名嗎?
不會。Google 官方說明 Google-Extended 只是 robots.txt 的控制標記,影響 Gemini 模型訓練與相關應用,不影響網站是否出現在 Google 搜尋,也不是排名訊號。
瀏覽器看得到內容,為什麼 AI 看不到?
瀏覽器會執行 JavaScript,把內容畫出來;很多爬蟲只讀伺服器第一次回傳的 HTML。如果文字要靠 JavaScript 才出現,爬蟲讀到的就是一個空殼。
自己不會寫程式,怎麼快速檢查?
最簡單的是在首頁按右鍵「檢視網頁原始碼」,搜尋你的公司名稱與主要服務。原始碼裡找不到,就代表不執行 JavaScript 的爬蟲也讀不到。
最後更新: