专家警告：ChatGPT商业建议可能引用被黑网站
ChatGPT的商业建议引发可靠性担忧
SEO专家James Brockbank的最新测试揭示了ChatGPT商业建议的潜在缺陷，该AI系统偶尔会引用被黑网站和过期域名的信息。这一发现引发了专业人士对AI生成建议可靠性的担忧。
问题：AI推荐中的受污染来源
Brockbank在调查中发现，ChatGPT有时会引用：
- 被入侵高权威网站上的篡改内容
- 过期域名上重新发布的误导性信息
"这些域名在搜索引擎中仍保持原有的'权威'评分，"Brockbank解释道，"因此ChatGPT在生成推荐时仍将其视为可信来源。"
两大核心问题
该研究突出了两个主要问题：
- 被黑网站：恶意攻击者可能在合法网站上植入无关或虚假信息
- 过期域名：被收购并重新利用的域名利用其过往可信度托管无关内容
"重建一个域名只为让语言模型引用？这就是操纵行为，"Brockbank表示。
对企业和用户的影响
这些发现具有重大影响：
- 对企业而言，不可靠的AI建议若关联可疑来源可能损害品牌声誉
- 对用户而言，不加批判地接受AI建议可能导致基于错误信息的决策失误
呼吁改进AI系统
Brockbank敦促AI开发者增强系统能力以：
- 检测篡改内容
- 过滤不可靠来源
- 改进整体信息审核流程
该专家还建议用户独立验证来自ChatGPT或类似工具的任何商业建议。
"我们尚未发展到可以完全信任ChatGPT推荐而无需验证的阶段，"他强调道。
AI技术的快速发展使得确保信息可靠性变得愈发重要。虽然这些工具提供了便利，但用户必须对潜在错误信息保持警惕。
关键要点：
- ⚠️ ChatGPT可能在商业建议中引用受污染网站
- 🔎 用户在采纳AI推荐前应进行验证
- 🛠 开发者需要更好的系统来检测篡改内容
- 📉 不可靠来源可能损害企业利益并误导消费者
