对于滥用生成式人工智能技术的担忧在世界范围内都存在。不仅因为其超越一般技术的“创造能力”和“破坏性”,
更因为人们发现,生成式人工智能技术发展的速度极快。目前,世界各国对其风险的预判与防范均处于探索阶段,有赖于法律体系的进一步完善。
10分钟内被骗走430万元,近期,用AI技术兴风作浪的诈骗案件,引起了社会关注。
5月22日,包头警方发布的一起利用AI实施电信诈骗的案例冲上热搜。福州市某科技公司法人代表郭先生在接到“好友”微信视频电话后,考虑到关系好又是真人视频通话,在10分钟内直接向对方账户汇款430万元。随后才意识到自己遭遇了“高端”骗局,“好友”是骗子通过AI换脸技术佯装而成的。
关于AI技术的争论不曾停止过。此前,ChatGPT就曾因编写假新闻而饱受诟病,而近期大量出现的AI诈骗更是令人不得不开始反思,AI生成的虚假信息或许潜藏着巨大的社会风险。
需警惕生成式人工智能技术的滥用
英国媒体《每日邮报》曾报道,2019年3月,英国警方逮捕了一名使用AI语音模仿软件的诈骗者。他将自己的声音改变成当地一家能源公司老板的声音,以“帮助公司避免拖欠罚款”为由要求一位高管向其汇款,通过电话骗取了22万欧元(约合人民币170万元)。据这名高管回忆,当时他也产生了疑心,但他的确听到了老板的德国口音。此案被认为是全球首例人工智能诈骗案。
2024-11-01 17:07:26
2024-11-01 17:23:42
2024-11-01 16:01:13
2024-10-28 11:42:24