黑客正在将人工智能安全系统转向我们 如何应对严峻挑战
原创不易 请随手点选关注
本文由Rehoo团队Tin原创，无授权禁转！(图片来自网络)
图片来自网络
随着人工智能在几乎所有商业和工业领域的应用，我们有一个新的问题需要担心.,人工智能的“劫持”。黑客使用相同的技术和系统来转向我们，妥协我们的资料，安全性和生活方式。我们已经看到黑客试图解决这个问题，虽然安全团队能够成功抵御这些攻击，但黑客成功只是时间问题。
抓住它们被证明是一项挑战，因为我们用来提高自己效率和工作效率的智慧技术被黑客们所吸引，他们正在利用它们来阻碍我们的进步。似乎我们可以做任何事情，他们可以做并且有时他们做得更好。
解决这个问题并确保高阶人工智能技术和算法仍然站在好人的一边，这将成为未来几年网络安全专家面临的最大挑战之一。
图片来自网络
要做到这一点，公司必须更加积极主动地保护自己。许多组织安装了高阶安全系统来保护自己免受APT和其他新兴威胁的攻击，其中许多系统本身都使用AI和机器学习技术。通过这样做，组织通常认为问题已得到解决; 一旦安装了高阶响应，他们就可以高枕无忧，确信他们受到保护。
然而，这种态度几乎可以保证他们被黑客入侵。随着系统的安装，黑客几乎总是领先一步。尽职尽责才是网络保护中最重要的武器之一。
人们常说，自满是敌人，在这种情况下，它是一个可以导致网络悲剧的敌人。公司可以采取的步骤包括更多地关注基本安全性，支援基于AI的安全系统以更好地检测黑客使用的策略，并教育工作人员了解网络钓鱼策略的危险以及黑客用来破坏系统的其他方法。
图片来自网络
黑客已经学会了妥协AI
黑客如何选择我们的人工智能？特拉维夫大学的工作中开发了一些系统，这些系统使用人工智能来提高网络的安全性，同时避免侵犯个人身份。
系统能够感知入侵者何时尝试访问服务器或网络。基于机器学习和高阶分析，我们的AI系统能够识别攻击模式，能够提醒管理员他们受到攻击，使他们能够采取行动，在入侵者进一步行动之前关闭他们。
这是一个黑客可以使用的策略示例。机器学习，我们今天称之为人工智能的核心，通过观察资料模式，以及在个人计算机或大型神经网络上对其含义进行假设为“智慧”。
因此，如果在特定程序执行时计算机处理器中发生特定操作，并且在神经网络或特定计算机上重复该操作，系统将获知该操作意味着已发生网络攻击，并且需要采取适当的行动。
但这里是棘手的地方。精通AI的恶意软件可以注入安全系统会读取的错误资料 ，目标是破坏机器学习算法用于做出决策的模式。因此，可以将虚假资料插入到数据库中，使得模拟正在复制个人资讯的过程只是IT系统常规例程的一部分，并且可以安全地被忽略。
图片来自网络
黑客不是试图超越智慧机器学习安全系统，而是简单地与他们“交朋友”， 利用他们自己的能力对付他们，并在服务器上帮助他们自己想要的任何东西。
黑客可以通过各种其他方式欺骗基于AI的安全系统。例如，已经显示，基于AI的影象识别系统可能通过仅改变影象中的几个画素而被欺骗。在日本九州大学的一项著名实验中，科学家们近四分之三的时间能够愚弄基于人工智能的影象识别系统。
另一种策略涉及我称之为“浮动和编织”，其中黑客插入讯号和过程对IT系统完全没有影响，除了训练AI系统看这些是正常的。一旦它发生，黑客可以使用这些例程来执行安全系统将错过的攻击，因为它已被训练为“相信”该行为是无关紧要的，甚至是正常的。
黑客可能会破坏基于AI的网络安全系统的另一种方式是更改或替换日志档案，甚至只是更改其时间戳或其他元资料，以进一步混淆机器学习算法。
图片来自网络
公司可以保护自己的方式
因此，人工智能的巨大优势有可能成为它的垮台。那么，答案是搁置AI吗？这肯定不会发生，也没有理由。通过适当的努力，我们可以通过这个AI故障，并停止黑客的努手段。以下是一些具体的想法：
尽职尽责：公司需要做的第一件事就是提高他们与安全流程的互动程度。安装先进人工智能安全系统的公司往往会对网络安全感到自满，认为系统会保护他们，并且通过安装它们就可以确保他们的安全。然而，正如我们所见，事实并非如此。密切关注表面上保护组公司的人工智能是确保他们从网络安全系统中获取资金的第一步。
强化AI：黑客用来攻击的一个策略是用低质量的资料侵入AI系统，以便混淆它。为防止这种情况发生，安全系统需要考虑遇到低质量资料的可能性。
对资料评估方式进行更严格的控制，例如，更密切地检查日志档案的时间戳以确定它们是否已被篡改，可以从黑客那里获取他们当前成功使用的武器方式。
更加关注基本安全性：黑客最常使用他们经过验证的真实策略，APT或执行恶意软件来渗透组织。通过加强对基本策略的防御，组织将能够通过完全阻止恶意软件和攻击来阻止任何型别的攻击，包括那些使用高阶AI的攻击。
图片来自网络
教育员工应对网络钓鱼宣传的危险， 包括奖励或惩罚机制，以及更强大的基本防御措施，如沙箱和反恶意软件系统，以及更智慧的人工智能防御系统可能需要很长时间保护组织的方式。人工智能有可能使我们的数字化未来更加安全; 在我们的有效的战略实施下，它将能够避免被黑客操纵，并正确地完成其工作。
（此处已新增圈子卡片，请到今日头条客户端检视）
