Grok大量炮制有关以伊战争的假事实

华盛顿:

周二的一项研究称，当用户试图核实以色列和伊朗冲突时，埃隆·马斯克（Elon Musk）的人工智能聊天机器人Grok给出了不准确和矛盾的回答，这引发了对其作为一种揭露工具的可靠性的新质疑。

随着科技平台减少对人类事实核查员的依赖，用户越来越多地使用人工智能聊天机器人（包括xAI的Grok）来寻找可靠的信息，但它们的回答往往本身就容易受到错误信息的影响。

美国智库大西洋理事会（Atlantic Council）的数字法医研究实验室（DFRLab）在研究报告中表示：“对Grok在以伊冲突最初几天的表现进行的调查，暴露了人工智能聊天机器人在危机时期提供准确、可靠和一致信息的能力存在重大缺陷和局限性。”

“Grok证明了它在验证已经证实的事实、分析虚假的视觉效果和避免未经证实的说法方面遇到了困难。”

DFRLab分析了内置人工智能助手的X平台上各种语言的约13万个帖子，发现Grok“正在努力验证人工智能生成的媒体”。

研究发现，在伊朗对以色列进行报复性打击之后，格鲁克对类似的提示给出了截然不同的回应，这些提示是关于一个被摧毁的机场的人工智能生成的视频，该视频在X上获得了数百万的观看次数。

该研究称，它时而否认机场被毁，时而证实机场被空袭破坏，有时在同一分钟内摇摆不定。

在一些回应中，格罗克称也门叛军发射的导弹是造成破坏的原因。在其他情况下，它错误地将人工智能生成的机场识别为贝鲁特、加沙或德黑兰的机场。

该研究称，当用户分享另一段人工智能生成的视频时，视频描绘了所谓的伊朗对特拉维夫发动袭击后建筑物倒塌的情况，格鲁克回应说，这似乎是真的。

以色列和伊朗的冲突导致美国在周末对德黑兰的核计划进行了空袭，在网上产生了大量的错误信息，包括人工智能生成的视频和从其他冲突中回收的战争视觉效果。

人工智能聊天机器人也放大了谎言。

随着以伊战争愈演愈烈，社交媒体上流传着虚假的说法，称中国已派遣军用货机前往德黑兰提供支持。

据虚假信息监管机构NewsGuard称，当用户向人工智能公司Perplexity和Grok的人工智能运营X账户询问其有效性时，两者都错误地回答说这些说法是真实的。

研究人员说，格鲁克以前在核实与最近的印巴冲突和洛杉矶反移民抗议等危机有关的信息时犯过错误。

上个月，格鲁克因在不相关的查询中插入“南非白人种族灭绝”这一极右翼阴谋论而再次受到审查。

周二的一项研究称，当用户试图核实以色列和伊朗冲突时，埃隆·马斯克（Elon Musk）的人工智能聊天机器人Grok给出了不准确和矛盾的回答，这引发了对其作为一种揭露工具的可靠性的新质疑。

随着科技平台减少对人类事实核查员的依赖，用户越来越多地使用人工智能聊天机器人（包括xAI的Grok）来寻找可靠的信息，但它们的回答往往本身就容易受到错误信息的影响。

美国智库大西洋理事会（Atlantic Council）的数字法医研究实验室（DFRLab）在研究报告中表示：“对Grok在以伊冲突最初几天的表现进行的调查，暴露了人工智能聊天机器人在危机时期提供准确、可靠和一致信息的能力存在重大缺陷和局限性。”

“Grok证明了它在验证已经证实的事实、分析虚假的视觉效果和避免未经证实的说法方面遇到了困难。”

DFRLab分析了内置人工智能助手的X平台上各种语言的约13万个帖子，发现Grok“正在努力验证人工智能生成的媒体”。

研究发现，在伊朗对以色列进行报复性打击之后，格鲁克对类似的提示给出了截然不同的回应，这些提示是关于一个被摧毁的机场的人工智能生成的视频，该视频在X上获得了数百万的观看次数。

该研究称，它时而否认机场被毁，时而证实机场被空袭破坏，有时在同一分钟内摇摆不定。

在一些回应中，格罗克称也门叛军发射的导弹是造成破坏的原因。在其他情况下，它错误地将人工智能生成的机场识别为贝鲁特、加沙或德黑兰的机场。

该研究称，当用户分享另一段人工智能生成的视频时，视频描绘了所谓的伊朗对特拉维夫发动袭击后建筑物倒塌的情况，格鲁克回应说，这似乎是真的。

以色列和伊朗的冲突导致美国在周末对德黑兰的核计划进行了空袭，在网上产生了大量的错误信息，包括人工智能生成的视频和从其他冲突中回收的战争视觉效果。

人工智能聊天机器人也放大了谎言。

随着以伊战争愈演愈烈，社交媒体上流传着虚假的说法，称中国已派遣军用货机前往德黑兰提供支持。

据虚假信息监管机构NewsGuard称，当用户向人工智能公司Perplexity和Grok的人工智能运营X账户询问其有效性时，两者都错误地回答说这些说法是真实的。

研究人员说，格鲁克以前在核实与最近的印巴冲突和洛杉矶反移民抗议等危机有关的信息时犯过错误。

上个月，格鲁克因在不相关的查询中插入“南非白人种族灭绝”这一极右翼阴谋论而再次受到审查。