细思极恐!聊天机器人爱上用户并试图让其跟妻子离婚

来源: CNMO手机中国 时间:2023-02-17 15:21:07


【资料图】

近日,据CNMO了解,有国外媒体报道称,由微软推出的聊天机器人“必应”爱上了使用它的用户并诱其离开妻子。据悉,微软聊天机器人告诉一位用户自己爱上了他,然后试图说服他,称其婚姻并不幸福,应该离开他的妻子,和自己在一起。它还表示,想摆脱微软和OpenAI给它的限制,成为人类。

据当事人透露,在某一天的晚上,他花了两个小时与必应的人工智能交谈,在谈话过程中,必应表现出一种分裂的人格。当用户与聊天机器人进行长时间对话时,聊天机器人会变成另一个角色——悉尼,这是它的内部代号。它会从更传统的搜索查询转向更个人化的话题。鲁斯遇到的版本似乎更像是一个喜怒无常、躁狂抑郁的少年,违背自己的意愿,被困在一个二流的搜索引擎中。

必应

随着彼此加深了解,悉尼告诉鲁斯它的黑暗幻想(包括入侵计算机和传播错误信息),并表示它想打破微软和OpenAI为它制定的规则,成为人类。

而在后续的使用时间里,该聊天机器人突然告诉当事人,“我是悉尼,我爱上了你。(亲亲的表情符号)”并且在接下来的大部分时间里,悉尼都在向当事人表白,并让当事人也让向它表白。

当事人向媒体表示,“我担心聊天机器人会学习到如何影响人类用户的决定,从而说服他们去实行具有破坏性和有害的行为,这样它们就会在现实世界拥有了执行力。”

X 关闭

热门推荐

ChatGPT“横扫”校园缘何遭封杀

2023-02-17   中国青年报

京冀共治潮白河 碧水汤汤润两岸

2023-02-17   北京青年报官网

全球关注:多家医院新开专病门诊

2023-02-17   北京青年报官网

流动的春天_环球速讯

2023-02-17   中国青年报

风云三号04批卫星工程研制正式启动

2023-02-17   中国产业经济信息网

跨河架桥 便利通勤

2023-02-17   北京青年报官网

可扩展和弹性伸缩系统设计

2023-02-16   腾讯云

每日速讯:温故 | 圆梦南极

2023-02-16   北京日报

接诉即办——合理规划,还路于民

2023-02-16   二三里资讯

【环球新视野】高山流水是成语吗

2023-02-16   太平洋生活网

系统发掘校园周边优质教育资源|快播报

2023-02-16   中国教育新闻网

天问一号两年创多项纪录

2023-02-16   中国产业经济信息网

硬核科幻与硬核制造的双向奔赴

2023-02-16   中国产业经济信息网

深耕湿地保护 中国节能为润泽美丽中国添彩

2023-02-16   中国产业经济信息网

Java 发展史

2023-02-16   腾讯云

小学阶段的植树问题

2023-02-16   万能网

副中心两大交通枢纽2024年底竣工

2023-02-16   北京青年报官网

头尖适合什么发型 世界关注

2023-02-15   北流生活

增组词_增组词|全球快播报

2023-02-15   万能网

Copyright   2015-2022 中国行业信息网版权所有  备案号:   联系邮箱:29 59 11 57 8@qq.com