欺诈GPT 和其他恶意 AI 是网络威胁的新前沿。我们能做什么？

Josiah02

　　互联网是现代社会不可或缺的庞大资源，但它也存在着恶意活动猖獗的阴暗面。
　　从身份盗窃到复杂的恶意软件攻击，网络犯罪分子不断想出新的诈骗方法。
　　广泛使用的生成人工智能 (AI) 工具现在为网络安全领域增加了新的复杂性。保持在线安全比以往任何时候都更加重要。
　　黑暗法学硕士的兴起
　　当前人工智能最险恶的适应之一就是创建“黑暗 LLM ”（大型语言模型）。
　　这些未经审查的日常人工智能系统（如 ChatGPT）被重新设计用于犯罪活动。它们的运作不受道德约束，而且精度和速度惊人。
　　网络犯罪分子部署暗黑 LLM来自动化和增强网络钓鱼活动，创建复杂的恶意软件并生成诈骗内容。
　　为了实现这一目标，他们进行LLM“越狱” ——使用提示让模型绕过其内置的安全措施和过滤器。
　　例如，FraudGPT编写恶意代码、创建钓鱼页面并生成无法检测的恶意软件。它提供用于策划各种网络犯罪的工具，从信用卡欺诈到数字冒充。
　　FraudGPT 在暗网和加密消息应用程序 Telegram 上进行宣传。其创建者公开推销其功能，强调该模型的犯罪重点。
　　另一个版本WormGPT会生成极具说服力的网络钓鱼电子邮件，甚至可以欺骗警惕的用户。基于GPT-J模型，WormGPT 还用于创建恶意软件并发起“商业电子邮件入侵”攻击——针对特定组织的网络钓鱼。
　　我们可以做什么来保护自己？
　　尽管威胁迫在眉睫，但也有好的一面。随着挑战的不断加剧，我们应对挑战的方法也在不断改进。
　　基于人工智能的威胁检测工具可以监控恶意软件并更有效地应对网络攻击。然而，人类需要继续参与其中，关注这些工具如何响应、采取什么行动以及是否存在需要修复的漏洞。
　　您可能听说过，保持软件更新对于安全至关重要。这可能感觉像是一件苦差事，但它确实是一种重要的防御策略。更新可以修补网络犯罪分子试图利用的漏洞。
　　您的文件和数据是否定期备份？这不仅仅是为了在系统发生故障时保存文件。定期备份是一种基本的保护策略。如果您成为勒索软件攻击的目标（犯罪分子会锁定您的数据并要求支付赎金后才能释放数据），您可以重新掌控您的数字生活而不必屈服于勒索。
　　发送钓鱼邮件的网络罪犯可能会留下一些线索，例如语法错误、问候语千篇一律、电子邮件地址可疑、请求过于紧急或链接可疑。培养对这些迹象的洞察力就像晚上锁门一样重要。
　　如果您尚未使用强而独特的密码和多因素身份验证，现在是时候这样做了。这种组合可成倍提高您的安全性，使犯罪分子更难以访问您的帐户。
　　我们对未来有什么期待？
　　我们的网络生活将继续与人工智能等新兴技术交织在一起。我们还可以预见到更复杂的网络犯罪工具的出现。
　　恶意人工智能将增强网络钓鱼、创建复杂的恶意软件并改进针对性攻击的数据挖掘。人工智能驱动的黑客工具将变得广泛可用且可定制。
　　作为回应，网络安全也必须做出调整。我们可以期待自动威胁搜寻、抗量子加密、有助于保护隐私的人工智能工具、更严格的法规和国际合作。
　　政府法规的作用
　　政府对人工智能实施更严格的监管是应对这些先进威胁的方法之一。这将涉及强制要求人工智能技术符合道德规范的开发和部署，确保它们配备强大的安全功能并遵守严格的标准。
　　除了加强监管之外，我们还需要改进组织应对网络事件的方式以及强制报告和公开披露的机制。
　　通过要求公司及时报告网络事件，当局可以迅速采取行动。他们可以调动资源来解决违规行为，防止其升级为重大危机。
　　这种积极主动的方法可以显著减轻网络攻击的影响，维护公众信任和企业诚信。
　　此外，网络犯罪不分国界。在人工智能驱动的网络犯罪时代，国际合作至关重要。有效的全球合作可以简化当局追踪和起诉网络罪犯的方式，形成统一战线以应对网络威胁。
　　随着人工智能恶意软件的激增，我们正处于全球技术旅程的关键节点：我们需要在创新（新的人工智能工具、新功能、更多数据）与安全和隐私之间取得平衡。
　　总的来说，最好主动保护自己的网络安全。这样你就能在不断发展的网络战场上领先一步。