转载请注明出处: CHATWEB
本文的链接地址: https://chatweb.com.cn/post-22.html
两支研究团队发布的论文引发了广泛关注，它们直言生成式人工智能（AI）产品的输出内容基本可以被视为“胡说八道”。一篇题为“ChatGPT是胡说八道”的论文指出，生成式AI在产出信息时，对于准确性表现出的漠视给公共服务人员带来了诸多挑战，特别是那些肩负法律责任必须讲真话的官员们。
论文作者Michael Townsen Hicks、James Humphries和Joe Slater强调，生成式AI产生的错误信息，不应简单地归类为“谎言”或“幻觉”。与故意欺骗的谎言不同，胡说八道是一种不在乎真相的表达方式，旨在给听众留下某种印象。他们认为，将AI的错误称为“幻觉”可能会误导公众，使人们误以为这些机器在某种程度上试图传达它们所“相信”的内容。
他们表示：“称这些错误为‘胡说八道’而不是‘幻觉’，不仅更加准确，还有助于提高公众对科技的理解。”这段话强调了使用更精确的术语来描述AI错误的重要性，特别是在当前科技传播亟待改进的背景下。
与此同时，另一篇关于大型语言模型（LLMs）的研究论文则集中讨论了欧盟在此问题上的法律与伦理环境。论文的结论是，当前关于AI的法律法规还不足以有效防止由这些AI所产生的“胡说八道”带来的潜在危害。作者Sandra Wachter、Brent Mittelstadt和Chris Russell建议引入类似出版领域的法规，强调避免可能造成社会危害的“随意发言”。
他们指出，这种义务强调，没有任何单一实体，不论是公共还是私营部门，应当成为真理的唯一裁决者。他们还表示，生成式AI的“随意发言”可能将真理转变为频率和多数意见的问题，而非基于真实的事实。
文章发布于: 2024-08-12 02:37:00
您可能对以下文章感兴趣
字节跳动旗下剪映团队研发的一站式AI创作平台“即梦AI” 提供AI图片
08/06"Meta开源大模型Llama 3强势崛起！超越GPT-4，苹果AI新服务也备受期待"
08/09爱诗科技推出PixVerse V2.5：视频生成速度提升200%，全新高表现模式与运镜功能，
08/22蚂蚁集团新公司“数字蚂力”推出AI人机融合解决方案，助力企业实现数字化转型和智能化升级！
08/17秘塔科技获新一轮巨额融资，估值达1.5亿美元，引领AI搜索市场新潮流！
08/11“ChatGPT式胡说八道”引发关注：准确性漠视挑战公共服务人员，法律责任成难题
08/12"Midjourney升级网页版编辑器，应对AI绘图市场竞争挑战"
08/16从文本到图像的革新：跨模态AR模型Lumina-mGPT实现图像生成的新突破
08/16"ChatGPT Mac版新功能：并排窗口提升多任务处理，水印技术提高AI生成内容辨识度"
08/08微软 Copilot AI 被揭示存在严重安全漏洞：攻击者能窃取敏感数据！
08/11谷歌采取行动遏制非自愿深度伪造，网络安全再升级
08/06Tavus团队打造AI聊天机器人：超越人性的沟通体验"
08/17
发表评论
取消回复
AI资讯