云主机博士

推荐阅读:

[AI-人工智能]免翻墙的AI利器：樱桃茶·智域GPT，让你轻松使用ChatGPT和Midjourney - 免费AIGC工具 - 拼车/合租账号 八折优惠码: AIGCJOEDISCOUNT2024

[AI-人工智能]银河录像局: 国内可靠的AI工具与流媒体的合租平台 高效省钱、现号秒发、翻车赔偿、无限续费|95折优惠码: AIGCJOE

[AI-人工智能]NexGenAI - 您的智能助手，最低价体验ChatGPT Plus共享账号

[AI-人工智能]边界AICHAT - 超级永久终身会员激活 史诗级神器，口碑炸裂！300万人都在用的AI平台

AI 专家担心，X（前称 Twitter）最新的 AI 聊天机器人可能会让虚假信息在该平台上肆意传播。

仅仅几天前，埃隆·马斯克（Elon Musk）拥有的社交媒体平台X（原名Twitter）推出了其最新版本的人工智能聊天机器人Grok。8月13日发布的这一新更新Grok-2允许用户通过简单的文本提示生成AI图像。问题在于，该模型缺乏其他流行AI模型所具备的常规安全措施。简单来说，人们几乎可以用Grok做任何事情。而且他们确实这么做了。

Grok 是一个生成型人工智能模型——它是一种能够自我学习并基于所学内容创造新内容的系统。在过去两年中，数据处理和计算机科学的进步使得AI模型在技术领域变得极为流行，初创企业和像Meta这样的大公司都在开发自己的工具版本。然而对于X来说，这一进步却引发了用户和专业人士的担忧，他们认为这个AI机器人做得太过分了。自Grok更新以来，X上充斥着各种用户生成的AI内容，其中一些最广泛传播的内容涉及政治人物。

这些AI图像中有前总统唐纳德·特朗普抚摸怀孕的副总统卡玛拉·哈里斯的画面，还有马斯克与米老鼠手持AK-47站在血泊中的图像，以及无数暗示性和暴力内容的例子。然而，当X上的担忧用户指出该AI机器人的能力似乎失控时，马斯克却采取了无所谓的态度，称其为“世界上最有趣的AI”。现在，当用户指出政治内容时，马斯克只是简单地回复“酷”或发笑的表情符号。

在某个实例中，当一个X用户发布了一张AI生成的马斯克怀着特朗普孩子的图像时，X的拥有者回应了更多的笑脸表情符号，并写道：“既然选择了剑，那我就应该死在剑下。”

随着研究人员继续开发生成型AI领域，有关其伦理影响的讨论也在持续并日益引发关注。在美国总统选举季节，专家们还表达了对AI可能影响或帮助传播虚假信息的担忧。马斯克本人也因分享被操纵的内容而受到严厉批评。今年7月，X的拥有者发布了一段经过数字处理的副总统哈里斯的视频剪辑，使用她的声音来声称哈里斯称拜登总统为“老年痴呆症患者”，并称哈里斯为“终极多样性雇员”。马斯克没有为这条被操纵的帖子添加免责声明，却分享给了他1.94亿的X粉丝——这条帖子违反了X的声明，禁止“可能误导或混淆人们并导致伤害的合成、操纵或断章取义的媒体”。

尽管过去也曾出现其他生成型模型的问题，但一些最受欢迎的模型，如ChatGPT，已经制定了更为严格的规则，限制用户生成的图像内容。OpenAI（该模型背后的公司）不允许用户在生成图像时提及政治人物或名人的名字。准则还禁止人们使用AI来开发或使用武器。然而，X上的用户声称Grok会生成宣传暴力和种族主义的图像，比如ISIS旗帜、穿着纳粹标志的政客甚至是尸体。

密歇根大学安娜堡分校的计算机科学副教授尼古拉·巴诺维奇（Nikola Banovic）告诉《滚石》杂志，Grok的问题不仅在于其缺乏安全措施，还在于它作为一个几乎不需要培训或教程即可使用的机器人，具有广泛的可访问性。

“毫无疑问，这些工具现在对更广泛的公众来说存在危险。它们可以有效地用于传播虚假信息和错误信息，”他说。“特别具有挑战性的是，这些模型正在接近生成真正逼真甚至可能可信的内容的能力，但公众可能没有足够的媒体或AI素养来识别这些内容是虚假信息。我们现在正在接近一个阶段，我们必须更加仔细地审视这些图像，并尝试

更好地理解它们的背景，以便我们作为公众能够识别出不真实的图像。”

X的代表没有回应《滚石》杂志的置评请求。Grok-2及其迷你版本目前正在X上进行测试版，只有那些支付了X高级会员费用的参与者才能使用，但公司已发布计划，继续进一步开发这些模型。

巴诺维奇补充说：“关于创建（和部署）这些模型的规范或伦理问题仍然是一个更广泛的讨论。但我很少听到有人问‘作为AI平台的拥有者，他们在将这种技术部署给公众时的责任是什么？’我认为这是我们也需要讨论的问题。”

相关关键词：

Twitter, X, AI聊天机器人, Grok, 生成型AI, 马斯克, 虚假信息, 信息误导, 政治人物, AI图像, 数据处理, 计算机科学, OpenAI, ChatGPT, 网络安全, 道德问题, 社交媒体, 数字操纵, 特朗普, 哈里斯, 选举季节, 虚假内容, 公众素养, 媒体素养, 武器生成, ISIS旗帜, 纳粹标志, 尸体图像, 密歇根大学, 计算机科学, 滚石杂志, 高级会员, 伦理讨论, 安全措施, 工具滥用, AI素养, 新闻操纵, 政治影响, 社会责任, AI平台, Beta版, 公众可访问性, 规范标准, 责任讨论, 图片生成, 图像识别, AI发展, 新闻准则, 社会影响, 高级用户, AI训练.