了解人工智能：AI 是否被过度炒作？

人工智能是计算机科学中的一个领域，致力于创造一些能够执行人类日常任务的系统。这些系统可用于执行决策制定、解决复杂问题和创造性思维等任务。AI 系统使用复杂的算法和数据（海量数据）来实现这些壮举。

但这个笼统的定义仅仅触及了皮毛。为了更好地理解 AI 这一概念，我们将从定义 AI 的两大类别开始：推理 AI 和生成式 AI。

推理 AI  是一种专注于根据文本、图片、音频和视频等内容进行信息推理的技术。

例如，在收到一张猫的照片后，它就会使用上下文线索来正确识别出该照片的主体。 

虽然此类 AI 技术可以根据信息进行推理，但它无法生成自己的内容。

生成式 AI即 GenAI，是一项可以根据指令生成 新 内容（文本、图片、音频和视频）的技术。 

例如，如果向其提供“画一只猫”的指令，GenAI 模型就会生成一张猫的图片。

您可以将推理 AI 和生成式 AI 看作是一枚硬币的两个面，而人们通常认为后者更加复杂。GenAI 开发涉及将机器学习和神经网络训练相结合。

神经网络 受到了大脑工作方式的启发，但以更简单、更实用的方式工作。它是一台机器，由很多层用于处理信息的人工神经元（即 节点）组成。每个神经元都会接收数字（输入），执行简单的计算，然后发出结果（输出）。 

该网络可以通过调整一组称为“权重”的数字来进行学习。这些权重决定了该网络的行为方式。在监督式学习过程中，该网络会接收数据和预期输出，并使用它们来设置这些权重。通过每次迭代从错误中进行学习，该网络可以调整其权重以提高达到预期输出的几率。

深度学习 是机器学习的一个子集，随着功能更强大的图形处理单元 (GPU) 和更复杂的训练算法的问世而出现。由于增加了更多层的神经元，它具备更强大的能力。一项重要提示：“深度”是指神经网络的层数，即物理意义上的深度，而不是智力深度。

深度学习算法的一个常见示例是 大语言模型 (LLM)，如 ChatGPT，它经过训练可以理解和生成人类语言文本。LLM 会将文本序列作为输入，然后输出序列中下一个字词的概率——此功能可帮助聊天机器人对问题或评论作出相关回复。 

LLM 利用大量文本进行训练，这些文本通常来自网络。和神经网络一样，LLM 权重可通过自我监督式学习来进行调整，以提高生成合理的下一个字词的概率。目前使用的最复杂的 LLM 包含数千亿个用于调整输出的权重。

现在，我们已基本了解了深度学习和 LLM，可以考虑某个特定的商业产品是真正依托 AI 技术还是只是 AI 炒作。 

AI 炒作是指某些公司就其产品中的 AI 技术含量进行误导性或夸大其词的宣传，以试图通过炒作 AI 来提高盈利能力。

若想识别 AI 炒作，请在评估产品时考虑以下问题：

• 此产品是否需要大量人工参与才能生成可接受的输出？ 真正的 AI 具有高度的自主性，只需极少的人工输入便能提供可接受的结果。

• 生产此产品的公司在其使用的 AI 数据类型和算法方面是否做到了公开透明？ 黑盒方法仅专注于产品的输入和输出，而不会揭示其内部工作原理和流程，这通常是一个危险信号，表明该技术可能并不完全符合预期。

遗憾的是，有太多公司使用 AI 一词来宣传无法通过上述考验的产品或服务。正因如此，在选择 AI 产品时，不能只看这些公司最初的宣传内容，而要更深入地探究来确定其产品是否真正地依托 AI 技术。

在评估某个 AI 解决方案时，还需要考虑一些其他的重要因素。“幻觉”是需要时刻牢记的重要概念。AI 幻觉是指错误的、具有误导性或无意义的结果。这些错误的结果由多种因素造成，包括使用不充足或存在偏见的数据进行训练，这可能会导致 AI 实施做出假设。 

必须牢记的是，AI 模型旨在根据训练时使用的数据来预测结果；因此，不正确的数据提取只会导致错误的结果。

每次 AI 技术出现新的突破时，要想洞悉随之而来的快速变化的趋势、虚假承诺和过度炒作的期望，不妨参考一下 Gartner 开发的一张图表。

今年六月，Gartner 发布了 2024 年人工智能技术成熟度曲线，该曲线追踪了新兴技术的发展、成熟和为大众所采用的过程。 

在第一阶段中，一项新技术会经历创新触发，在朝向创新顶峰迈进的过程中获得关注和炒作。

在到达顶峰之后，该技术会跌入幻灭的低谷，而艰苦的工作正是从这里开始。人们不再受膨胀预期的影响，开始理解该技术真正的能力并针对其设计实际应用，使该技术沿着曲线进一步前进，进入生产力高原期。

根据 Gartner 的数据，AI 沿着技术成熟度曲线快速发展，并且生成式 AI 已进入幻灭的低谷阶段。但是，尽管此曲线阶段的名字有些令人担忧，但它为真正的创新提供了机会——促使人们更好地理解 AI 的局限性，并将其承诺付诸行动。目前，这种情况正发生在网络安全行业中。

毫无疑问，不论结果好坏，AI 革命已经彻底改变了我们的网络安全环境。

随着 AI 模型变得更加复杂，网络犯罪分子所采用的技术手段也变得愈加复杂。攻击者越来越多地采用生成式 AI 来自动实施、改进攻击和扩大其规模，导致威胁越来越难以检测和抵御。

但是，在网络安全中融入自动化也带来了重大机遇， 尤其是在威胁检测领域。与亲自动手相比，网络安全专业人员可以使用 AI 来更快地分析海量数据，以识别并检测用户行为中可能预示存在潜在威胁的模式和异常。

AI 还可以用于简化事件响应流程。通过自动执行预定义的操作来应对检测到的威胁（例如，隔离受影响的系统、阻止恶意流量或发出告警），AI 可以实时对潜在威胁作出响应。