转载请注明出处: CHATWEB
本文的链接地址: https://chatweb.com.cn/post-94.html
OpenAI 最近更新了 ChatGPT 的语音功能，基于最新的 GPT-4o 模型，使与聊天机器人的交流更为自然流畅。然而，OpenAI 对此表达了担忧，指出部分用户可能会对该语音功能产生情感依赖。研究显示，一些用户在使用语音模式时，甚至会对 ChatGPT 表达情感，如说 “这是我们最后一天在一起”。
这些看似无害的表述引起了 OpenAI 的关注，公司意识到需要深入研究这种依赖现象。虽然这种依赖可能对孤独的用户有所帮助，但也可能导致人们减少与真实人类的互动。长时间与 AI 交互可能影响社交习惯，例如，在现实中人们通常不会在对话中随意打断对方，而在与 AI 交流时这种情况较为常见。
GPT-4o 具备记忆用户信息和偏好的功能，这可能会进一步加深用户对其的依赖。OpenAI 计划继续研究这种情感依赖的可能性及其对用户行为的影响。
从安全性角度看，OpenAI 对 GPT-4o 进行了全面评估。虽然在网络安全、生物威胁和模型自主性方面的风险较低，但在说服力方面被评为“中等”风险。测试显示，虽然 AI 有时能稍微超越人类的说服力，但总体表现并未超过人类水平。
GPT-4o 的语音功能测试表明，AI 音频的影响力大约是人类音频的78%，而 AI 对话的影响力仅为65%。后续调查显示，AI 对话的影响力几乎可以忽略，这意味着 AI 在说服用户方面还有很大的局限性。
文章发布于: 2024-08-19 10:26:00
您可能对以下文章感兴趣
字节跳动旗下剪映团队研发的一站式AI创作平台“即梦AI” 提供AI图片
08/06"Meta开源大模型Llama 3强势崛起！超越GPT-4，苹果AI新服务也备受期待"
08/09爱诗科技推出PixVerse V2.5：视频生成速度提升200%，全新高表现模式与运镜功能，
08/22蚂蚁集团新公司“数字蚂力”推出AI人机融合解决方案，助力企业实现数字化转型和智能化升级！
08/17秘塔科技获新一轮巨额融资，估值达1.5亿美元，引领AI搜索市场新潮流！
08/11“ChatGPT式胡说八道”引发关注：准确性漠视挑战公共服务人员，法律责任成难题
08/12"Midjourney升级网页版编辑器，应对AI绘图市场竞争挑战"
08/16从文本到图像的革新：跨模态AR模型Lumina-mGPT实现图像生成的新突破
08/16"ChatGPT Mac版新功能：并排窗口提升多任务处理，水印技术提高AI生成内容辨识度"
08/08微软 Copilot AI 被揭示存在严重安全漏洞：攻击者能窃取敏感数据！
08/11谷歌采取行动遏制非自愿深度伪造，网络安全再升级
08/06Tavus团队打造AI聊天机器人：超越人性的沟通体验"
08/17
发表评论
取消回复
AI资讯