巴卢诺维奇团队2023年底发现,大型语言模型,如GPT-4、Llama 2和Claude,已能够仅从与聊天机器人的日常对话中推断出人们的种族、位置和职业等敏感信息。理论上,任何能访问这些模型的人,都能以这种方式使用它们。
巴卢诺维奇表示,AI语言模型不仅是网络钓鱼的“完美工具”,对人肉搜索(在线泄露某人的私人身份信息)也是如此。这是因为AI语言模型经过大量互联网数据(包括个人数据)的训练, 可推断出某人位于何处。
如果有人向AI询问如何制造炸弹,那他不会得到任何有用的答复。这是因为大多数AI公司已采取各种保护措施来防止模型泄露有害或危险信息。
钱卡利尼表示,GoMail Pro等垃圾邮件生成服务已集成ChatGPT,这使得犯罪用户能翻译或改进发送给受害者的消息。OpenAI的政策限制人们用其产品进行非法活动,但在实践中其实很难监管。
瑞士苏黎世联邦理工学院的AI安全研究员米斯拉夫·巴卢诺维奇表示,目前生成式AI最大的滥用就是网络钓鱼,其试图诱骗人们泄露敏感信息,再用于恶意目的。研究发现,在ChatGPT兴起的同时,也伴随着网络钓鱼电子邮件数量大幅增加。
他们提供的是伪造或被盗的身份证件,再将深度伪造的图像强加在真人脸上,以欺骗手机相机验证程序。据钱卡利尼发现的一些例子,该服务的价格甚至低至70美元。
钱卡利尼团队发现,已经有用户在电报(Telegram)等平台上展示他们的“深度伪造组合”,并以每张图片10美元或每分钟500美元的价格出售服务。
还有一点值得注意,由于AI翻译工具的进步,世界各地犯罪集团的沟通变得更容易,他们可能开展大规模跨国行动,或在本国对其他国家用户采取恶意行动。
犯罪分子可能会让聊天机器人假装是具有侧写经验的私家侦探,然后让它分析受害者所写的文本,并从文本中的小线索推断出个人信息。例如,根据他们上高中的时间推断他们的年龄,或者根据他们在通勤时提到的地标推断他们的居住地点。互联网上该人的相关信息越多,就越容易被识别。
比如上面得不到答案的问题,这显示了模型都有关于如何使用它们的规则。但“越狱”允许用户操纵AI来生成违反这些政策的输出。例如,为勒索软件编写代码,或生成可在诈骗电子邮件中使用的文本。
安全公司“趋势科技”研究员文森佐·钱卡利尼表示,生成式AI提供了一个新的、强大的工具包,使恶意行为者能够比以往更高效、更国际化地开展活动。
农民伯伯下乡妹人工智能(AI)浪潮正以前所未有的速度推进。这是一个AI新纪元,在AI的帮助下,科研的边界被不断拓宽,解决复杂问题的速度越来越快,但必须警惕:AI也能极大提高犯罪分子的“生产力”。
这样的诈骗案例并不鲜见,人们接到亲人打来的求救电话,称自己被绑架并要求交付赎金,结果却发现,打电话的人是个使用深度伪造语音的骗子。
去年的“WormGPT衰落”是一个标志性事件。WormGPT是一种基于开源模型构建的AI语言模型,但它使用恶意软件相关数据进行训练,会协助黑客工作且没有任何道德规则或限制。2023年夏天,在引起媒体高度关注后,该模型的创建者宣布关闭模型。自那以后,网络犯罪分子大多停止开发自己的AI模型,转而借助更可靠的现有工具来“耍花招”。
OpenAI方面表示,他们将人工审核和自动化系统相结合,以识别和防止其模型被滥用,如果用户违反公司政策,则会实施警告、暂停、永久关闭等措施。
相较图片,深度伪造视频制作起来更复杂,而且更容易露出破绽。深度伪造音频的制作成本低廉,只需几秒钟的某人的声音(例如从社交媒体获取),即可生成令人信服的内容。
这可能是因为,犯罪分子也想更快获得收益且不想承担新技术带来的未知风险。人们对此必须多加注意,以下5种就是目前他们最常用的方式。
这些服务的存在,并不直接表明犯罪活动的存在,但我们必须看到可供恶意行为者利用的新功能。而防止这些事情发生的唯一方法就是加强防御。
生成式AI使深度伪造(Deepfake)的开发发生质变。当前,技术合成的图像或音视频,看起来或听起来比以往任何时候都更加真实,这一点犯罪分子也意识到了。
一些银行和加密货币交易需验证其客户是否本人。他们会要求新用户在手机相机前持身份证拍摄一张自己的照片,但犯罪分子已经开始在电报等平台上销售能绕过这一要求的应用程序。
168.67MB
查看228.98MB
查看60.9MB
查看697.91MB
查看314.35MB
查看837.15MB
查看966.84MB
查看800.12MB
查看943.25MB
查看411.77MB
查看175.86MB
查看392.12MB
查看448.96MB
查看906.32MB
查看634.71MB
查看669.83MB
查看668.77MB
查看397.71MB
查看765.90MB
查看619.13MB
查看514.80MB
查看279.81MB
查看752.74MB
查看320.14MB
查看306.97MB
查看470.27MB
查看469.63MB
查看822.59MB
查看441.95MB
查看887.68MB
查看724.76MB
查看215.19MB
查看101.24MB
查看571.21MB
查看204.24MB
查看802.81MB
查看936.41MB
查看505.66MB
查看927.68MB
查看948.45MB
查看128.97MB
查看375.75MB
查看171.39MB
查看703.85MB
查看548.35MB
查看167.88MB
查看158.13MB
查看196.96MB
查看208.24MB
查看205.80MB
查看468.71MB
查看470.65MB
查看696.20MB
查看763.75MB
查看676.90MB
查看982.57MB
查看811.16MB
查看346.70MB
查看324.46MB
查看157.27MB
查看236.34MB
查看868.13MB
查看114.92MB
查看940.72MB
查看570.94MB
查看372.11MB
查看121.53MB
查看975.63MB
查看497.44MB
查看160.63MB
查看625.47MB
查看613.90MB
查看408.69MB
查看449.80MB
查看497.57MB
查看873.56MB
查看894.91MB
查看238.14MB
查看172.69MB
查看233.41MB
查看952.74MB
查看393.63MB
查看366.44MB
查看857.24MB
查看917.56MB
查看292.59MB
查看541.60MB
查看671.58MB
查看112.63MB
查看286.44MB
查看160.49MB
查看697.53MB
查看842.59MB
查看772.57MB
查看409.52MB
查看607.72MB
查看827.39MB
查看926.47MB
查看681.27MB
查看968.39MB
查看258.69MB
查看432.63MB
查看349.41MB
查看
754 东港kk
美国非法移民被集体宣判画面⛃
2025-06-29 19:27:51 推荐
117 188****1748
高原边防部队还在用81杠 中国步枪真的有问题吗?⛇
2025-06-29 19:52:22 不推荐
777 152****6917
韩媒:文在寅将加入特金会 共同宣布朝鲜战争结束⛋
2025-07-01 08:49:26 推荐
74 狂飙的汽车
湖北一官员凌晨接上级电话未赴现场在家睡觉 被免职⛎
2025-06-30 03:47:00 推荐