互联网是现代社会巨大而不可或缺的资源，但它也有恶意活动猖獗的阴暗面。

从身份盗窃到复杂的恶意软件攻击，网络犯罪分子不断想出新的诈骗方法。

广泛使用的生成式人工智能(AI)工具现在为网络安全领域增添了一层新的复杂性。保持在线安全比以往任何时候都更加重要。

黑暗法学硕士的兴起

对当前人工智能最邪恶的适应之一是创建“黑暗llm”(大型语言模型)。

这些未经审查的日常人工智能系统，如ChatGPT，是为犯罪活动重新设计的。他们不受道德约束，以惊人的精确度和速度行动。

网络犯罪分子部署暗llm来自动化和增强网络钓鱼活动，创建复杂的恶意软件并生成诈骗内容。

为了达到这个目的，他们进行了LLM“越狱”——使用提示让模型绕过其内置的保护和过滤器。

例如，FraudGPT编写恶意代码，创建网络钓鱼页面并生成无法检测的恶意软件。它为策划各种网络犯罪提供了工具，从信用卡欺诈到数字冒充。

FraudGPT在暗网和加密消息应用Telegram上做广告。其创建者公开推销其功能，强调该模型的犯罪焦点。

另一个版本，WormGPT，产生有说服力的网络钓鱼邮件，甚至可以欺骗警惕的用户。基于GPT-J模型，WormGPT还用于创建恶意软件和发起“商业电子邮件入侵”攻击——针对特定组织的网络钓鱼。

我们能做些什么来保护自己?

尽管威胁迫在眉睫，但还是有一线希望的。随着挑战的发展，我们抵御挑战的方式也在不断发展。

基于人工智能的威胁检测工具可以更有效地监控恶意软件并应对网络攻击。然而，人类需要参与其中，密切关注这些工具的响应方式、采取的行动以及是否存在需要修复的漏洞。

您可能听说过保持软件更新对安全至关重要。这可能感觉像是一件苦差事，但它确实是一种关键的防御策略。更新修补了网络罪犯试图利用的漏洞。

你的文件和数据是否定期备份?这不仅仅是为了在系统故障时保存文件。定期备份是一种基本的保护策略。如果你成为勒索软件攻击的目标——犯罪分子锁定你的数据，并在释放数据之前要求支付赎金——你可以在不屈服于勒索的情况下恢复你的数字生活。

发送网络钓鱼信息的网络犯罪分子可能会留下一些线索，比如语法错误、通用问候语、可疑的电子邮件地址、过于紧急的请求或可疑的链接。培养对这些迹象的鉴赏力就像晚上锁门一样重要。

如果您还没有使用强大的、唯一的密码和多因素身份验证，那么是时候这样做了。这种组合增加了您的安全性，使犯罪分子更难以访问您的帐户。

我们对未来有什么期待?

我们的在线存在将继续与人工智能等新兴技术交织在一起。我们也可以期待更复杂的网络犯罪工具的出现。

恶意人工智能将增强网络钓鱼，创建复杂的恶意软件，并改进针对目标攻击的数据挖掘。人工智能驱动的黑客工具将变得广泛可用和可定制。

作为回应，网络安全也必须适应。我们可以期待自动威胁搜索、抗量子加密、有助于保护隐私的人工智能工具、更严格的监管和国际合作。

政府法规的作用

政府对人工智能更严格的监管是应对这些先进威胁的一种方法。这将涉及强制要求人工智能技术的道德开发和部署，确保它们配备强大的安全功能并遵守严格的标准。

除了更严格的法规，我们还需要改进组织应对网络事件的方式，以及强制性报告和公开披露的机制。

通过要求企业及时报告网络事件，当局可以迅速采取行动。他们可以调动资源，在违规行为升级为重大危机之前解决它们。

这种积极主动的方法可以显著减轻网络攻击的影响，维护公众信任和企业诚信。

此外，网络犯罪没有国界。在人工智能驱动的网络犯罪时代，国际合作至关重要。有效的全球合作可以简化当局追踪和起诉网络犯罪分子的方式，形成对抗网络威胁的统一战线。

随着人工智能恶意软件的激增，我们正处于全球科技之旅的关键节点:我们需要在创新(新的人工智能工具、新功能、更多数据)与安全和隐私之间取得平衡。

总的来说，最好是积极主动地保护自己的网络安全。这样你就可以在不断变化的网络战场上保持领先一步。

公司提供 nversation

本文转载自The Co在知识共享许可下的对话。阅读原文。

引用诈骗和其他恶意人工智能是新的趋势 n (0) 在线威胁。我们能做什么?(2024年7月24日)从https://techxplore.com/news/2024-07-fraudgpt-malicious-ais-frontier-online.html检索2024年7月26日 作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司 内容仅供参考之用。