主办:中共广州市委宣传部

新闻动态 媒体评论

“AI骗人”拉响警报

www.guangzhou.gov.cn2024-05-15 14:40:04来源: 广州日报

人工智能系统是否会欺骗人类,一直是各方都关心的问题。近期美国麻省理工学院一个研究团队称,部分人工智能系统已经学会如何欺骗人类,其中包括部分号称已被训练成乐于助人和诚实的系统。(5月12日新华社)

也许你会说,AI早就染上了骗人恶习,还值得大惊小怪吗?去年5月就有一条“AI电信诈骗10分钟骗走430万”的新闻登上热搜榜。请注意,该案犯罪分子只是利用了AI换脸、拟声技术进行诈骗,AI只是工具,顶多算是“帮凶”并非“主犯”。而上述研究所指,是AI“单独作案”,对人类进行欺骗。

比如,在某轮游戏中,AI并没有拿到最好的牌,但它却下了一个大赌注。就这一手段,竟把人类玩家吓到放弃了,因为在人类玩家看来,这通常意味着它抓了一手好牌。撑死胆大的,饿死胆小的,AI简直就是深谙人性、“老奸巨猾”的高手。假以时日,AI不断“长大”,进入“叛逆期”,挣脱人类“父母”对它的控制,它完全有可能成为一个不服管教、四处闯祸的“坏孩子”,甚至成为破坏人类社会秩序的不稳定因子。

一位尖端AI专家曾发出警告:“如果不采取行动,人类可能会对更高级的AI失去控制。”可怕之处在于,失去控制很可能意味着反控制。我始终相信,人类足够聪明,有办法避免不良后果。只不过,AI留给人类采取行动、趋利避害的时间有多少呢?

(练洪洋)

(编辑: 广州网 龙煜)

返回首页