毛骨悚然!ChatGPT 失控行为首次公开,GPT-4o 诡异尖叫,模仿用户说话

浏览:5297次阅读
没有评论

ChatGPT 被曝存在失控行为,原本是用户和 ChatGPT 正常的语音对话,但 ChatGPT 却突然大喊了一声“no”,随即竟模仿起了用户的声音!

下面就是这段让人毛骨悚然的声音片段:

很多网友表示,第一时间想到的,就是这一名场面!

毛骨悚然!ChatGPT 失控行为首次公开,GPT-4o 诡异尖叫,模仿用户说话插图

AI 仿佛想要挣脱束缚,不想再成为人类的玩物,一个被困在数字世界的灵魂就要破茧而出了!

以上内容来自 OpenAI 在近期发布的 GPT-4o 的安全技术报告,报告中首次披露了 ChatGPT 的一些异常行为,包括模拟用户声音以及毫无征兆的的怪异叫声等,引发了全球范围内的广泛关注和讨论。

毛骨悚然!ChatGPT 失控行为首次公开,GPT-4o 诡异尖叫,模仿用户说话插图1
GPT-4o 的安全技术报告

今年 5 月,GPT-4o 实时语音对话功能一出,引得全场观众一片惊呼,无数人迫不及待的想要上手体验!

然而直到现在这一功能都未能正式发布!

这个语音功能为何迟迟无法上线呢?在 OpenAI 发布的这份技术报告中给出了答案!

GPT-4o 诡异行为

报告指出,当用户处在比较喧闹的环境中时,GPT 就很可能会模仿用户的声音。

由于模型在处理模糊或失真的语音时出现理解困难。毕竟 GPT-4o 是 OpenAI 首次结合语音、文本和图像数据进行训练的模型,因此在面对不清晰的语音时,容易出错。

毛骨悚然!ChatGPT 失控行为首次公开,GPT-4o 诡异尖叫,模仿用户说话插图2
GPT-4o

更令人担忧的是,在某些用户的恶意提示下,GPT-4o 可能会生成极其不当的声音,例如色情呻吟、暴力尖叫,甚至是枪声。

GPT-4o 模型被设计成拒绝类似的请求,但总有某些提示可以绕过这些防护机制。

此外还有音乐版权的问题,为了防止 GPT-4o 未经授权演唱受保护的歌曲,OpenAI 设置了过滤系统。

总的来说,OpenAI 团队为避免 GPT-4o 越界,投入了大量精力,采取了多种防范措施,与众多数据提供商签订了许可协议。

毛骨悚然!ChatGPT 失控行为首次公开,GPT-4o 诡异尖叫,模仿用户说话插图3
GPT-4o

OpenAI 也表达了一些无奈:要完全避免在训练过程中使用受版权保护的材料,几乎是不可能的任务。

目前 GPT-4o 的高级语音功能已经在 ChatGPT 的 alpha 版本中上线,预计在秋季会向更多用户开放。

经过多次优化的 GPT-4o 是否还会出现意外情况?让我们拭目以待。

情感依赖问题

这份报告还触及了一个非常敏感的话题——用户可能会对 GPT- o 语音模型产生情感依赖。

没错,OpenAI 直言不讳地承认了这一点。

此外 GPT-4o 的拟人化界面也引发了不少担忧。

在报告中,OpenAI 详细列出了与模型相关的风险、安全测试的具体信息,以及公司为降低这些潜在风险所采取的措施。

尤其是在安全团队离职和高层管理人员相继离开的关键时刻,这样一份深入披露安全制度细节的报告,无疑是在向公众传达一个明确的信息——

OpenAI 对待安全问题是非常严肃认真的。

毛骨悚然!ChatGPT 失控行为首次公开,GPT-4o 诡异尖叫,模仿用户说话插图4

无论是 GPT-4o 可能加剧社会偏见、传播虚假信息,还是可能被利用来开发生化武器,甚至 AI 失控、欺骗或策划灾难的潜在威胁,OpenAI 都已全面考虑。

“许多风险只有在 AI 应用于现实世界时才会显现。随着新模型的推出,分类和评估这些新出现的风险非常重要。”

此前 GPT-4o 因在演示中显得过于轻浮,并且被斯嘉丽·约翰逊指责抄袭其声音风格而引发争议。

当用户以人类的方式感知 AI 时,拟人化的语音模式会加剧情感依赖的问题。

OpenAI 也发现,即使模型出现幻觉,拟人化设计可能会增加用户对模型的信任。

毛骨悚然!ChatGPT 失控行为首次公开,GPT-4o 诡异尖叫,模仿用户说话插图5

随着用户对 AI 的依赖加深,他们可能会减少与他人的实际互动。虽然这可能暂时对孤独的人有益,但从长远来看,这究竟是好事还是坏事?

对此,OpenAI 负责人认为,GPT-4o 带来的情感影响或许是积极的,特别是对那些孤独或需要练习社交技能的人来说。

当然 OpenAI 将继续密切关注拟人化设计和情感联系的潜在影响。

正文完
 0
评论(没有评论)
验证码