AI发展失控或威胁人类,美国科技大亨马斯克促研发停半年

来源: 星岛环球网 时间:2023-03-30 15:35:10


(资料图片)

科技大亨马斯克(Elon Mush)、苹果公司(Apple)联合创办人沃兹尼克(Steve Wozniak)等多名业界重量级人物联署公开信,形容人工智能(AI)“已经失控”,可能对人类社会构成长远风险,希望同行在未来半年暂停研发,深思熟虑决定下一步方向。

综合美联社及《华尔街日报》报道,公开信由非营利组织“未来生命研究所”(Future of Life Institute)发起,至今已有超过1000人签名,除了马斯克与沃兹尼克外,还包括曾获图灵奖(Turing Award)的AI先驱班吉欧(Yoshua Bengio)、英国计算机科学家罗素(Stuart Russell)、机器学习企业家兼学者马库斯(Gary Marcus)等行业名人。其他联署人则有曾经竞逐总统的企业家杨安泽(Andrew Yang)、《原子科学家公报》(Bulletin of the Atomic Scientists)总裁布朗森(Rachel Bronson)等等。

信件以严肃措辞表示,现在的人工智能已经具备能和人类竞争的能力,可能对社会和人类构成深远风险,最近几个月更陷入“失控”的科技竞赛,不同机构纷纷开发、推出日益强大的数字思维,即使是创造者都无法理解、预测、可靠地控制系统。有见及此,公开信呼吁所有实验室立即暂停训练自己的模型,至少在未来6个月不要推出比GPT-4更强大的系统,并确保暂停工作公开透明、可供外界验证,否则政府应该介入。

有份联署的纽约大学(NYU)名誉教授马库斯(Gary Marcus)另行在博客刊登文章,表示他不同意其他联署人对AI的忧虑,相信这些系统非常聪明,可以自我完善,真正的风险反而是“一般人工智能”,广泛投入应用后,可能被犯罪分子用来诈骗或传播危险信息。

这波AI竞赛的转折点,在于旧金山初创公司OpenAI月前发表最新模型GPT-4,继而推出实际应用ChatGPT、随后微软、谷歌等龙头企业也加入竞争。截至29日,上述3家公司都未回应此信。而信件也引起争议,康奈尔大学的数码和信息法教授格里梅尔曼(James Grimmelmann)表示,暂停研发虽然出发点甚好,但信件内容含糊,没有正视监管问题,又表示电动车特斯拉的人工智能同样存在缺陷,却一直拒绝负责,马斯克参与联署非常虚伪。

相关新闻:

高盛:AI威胁全球3亿人饭碗,律师行政人员属高危群体

升级版GPT-4面世,语言能力媲人类,专家:并非搜索引擎

马斯克传招募AI研究员,拟打造ChatGPT对手

X 关闭

热门推荐

kubernetes的storageclass

2023-03-30   腾讯云

每日速看!java的aop

2023-03-30   腾讯云

北京买房:理清思路,购房建议778

2023-03-30   章哥说买房

“绿色电站”助力中非命运共同体建设

2023-03-30   中国产业经济信息网

京冀合作今年再添51家环京蔬菜生产基地

2023-03-29   北京日报客户端

环球资讯:北京发布森林防火科普动画

2023-03-29   北京青年报官网

迟福林:RCEP下的海南自由贸易港 世界播资讯

2023-03-29   中国网·中国发展门户网

北京:玉渊潭樱花进入观赏期

2023-03-29   新华社新闻

OpenStack高可用架构方案

2023-03-29   腾讯云

进高校“抢”人才_短讯

2023-03-29   中国青年报

kubernetes组件介绍

2023-03-29   腾讯云

北京有人抢孩子?警方通报

2023-03-29   中原盾

hadoop集群安装

2023-03-29   腾讯云

百亿美元大消息! 全球资讯

2023-03-29   中国基金报

潍柴雷沃智慧农业开出中原增产增收"粮方"

2023-03-29   中国产业经济信息网

北京市领导担任河长名单公布!

2023-03-28   北京日报客户端

Copyright   2015-2022 中国行业信息网版权所有  备案号:   联系邮箱:29 59 11 57 8@qq.com