转载请注明出处: CHATWEB
本文的链接地址: https://chatweb.com.cn/post-121.html
在人工智能领域，安全问题一直是重中之重。然而，近期OpenAI的一系列变动引起了业内的广泛关注。据报道，这家专注于开发有益于人类的AI技术的公司，其AGI安全团队——专注于长期超级智能AI风险的研究小组——已经流失了近一半的成员。
前OpenAI治理研究员Daniel Kokotajlo透露，AGI安全团队的规模在过去几个月内从大约30人减少到了16人左右。这些研究人员原本的任务是确保未来的AGI系统的安全性，避免它们对人类造成潜在威胁。团队规模的缩减引发了人们对于OpenAI是否开始忽视AI安全性的担忧。
Kokotajlo强调，人员流失并非是有计划的集体行动，而是由于团队成员逐渐对公司的方向失去了信心。随着OpenAI越来越注重产品的开发和商业化，安全研究团队的规模缩减似乎成了一种必然趋势。
针对外界的担忧，OpenAI回应称，公司一直致力于开发最可靠、最安全的人工智能系统，并且坚信自身拥有解决潜在风险的有效科学方法。
今年早些时候，OpenAI的联合创始人兼首席科学家Ilya Sutskever宣布离职，他所领导的安全研究团队也随之解散。这些变动无疑加剧了外界对于OpenAI在安全性研究方面的担忧。
文章发布于: 2024-08-30 04:34:00
您可能对以下文章感兴趣
字节跳动旗下剪映团队研发的一站式AI创作平台“即梦AI” 提供AI图片
08/06"Meta开源大模型Llama 3强势崛起！超越GPT-4，苹果AI新服务也备受期待"
08/09爱诗科技推出PixVerse V2.5：视频生成速度提升200%，全新高表现模式与运镜功能，
08/22蚂蚁集团新公司“数字蚂力”推出AI人机融合解决方案，助力企业实现数字化转型和智能化升级！
08/17秘塔科技获新一轮巨额融资，估值达1.5亿美元，引领AI搜索市场新潮流！
08/11“ChatGPT式胡说八道”引发关注：准确性漠视挑战公共服务人员，法律责任成难题
08/12"Midjourney升级网页版编辑器，应对AI绘图市场竞争挑战"
08/16从文本到图像的革新：跨模态AR模型Lumina-mGPT实现图像生成的新突破
08/16"ChatGPT Mac版新功能：并排窗口提升多任务处理，水印技术提高AI生成内容辨识度"
08/08微软 Copilot AI 被揭示存在严重安全漏洞：攻击者能窃取敏感数据！
08/11谷歌采取行动遏制非自愿深度伪造，网络安全再升级
08/06Tavus团队打造AI聊天机器人：超越人性的沟通体验"
08/17
发表评论
取消回复
AI资讯