亚马逊云科技推出“自动推理检查”功能，增强生成式AI安全性

数智朋克讯，亚马逊云科技近日宣布，为其Amazon Bedrock Guardrails增加“自动推理检查”功能，以提高生成式人工智能（AI）的安全性与可靠性。该功能目前处于预览版，旨在减少生成式AI内容中的幻觉现象，从而避免生成不准确或虚假的信息。

随着生成式AI技术的广泛应用，如何确保其生成的内容准确无误，成为了一个亟待解决的问题。亚马逊的这一更新使得Amazon Bedrock Guardrails不仅能过滤不良内容、编辑个人身份信息（PII），还通过精细化的内容验证增强了信息的安全性和隐私保护。用户可以根据需要配置多种策略，包括拒绝主题、内容过滤器和单词过滤器，确保生成内容的准确性与事实一致性。

此外，亚马逊还推出了“ApplyGuardrail” API，使开发者可以将这些安全保障措施应用于任何生成式AI模型，不仅限于Amazon Bedrock平台。这意味着，无论是使用自托管的大型语言模型（LLM）还是其他平台上的生成式AI应用，都可以集成这些功能，从而提高整体应用的可信度和安全性。

通过这些创新更新，亚马逊进一步增强了其生成式AI平台的安全性，推动AI技术的广泛应用，尤其在需要高度可信内容的行业中，增强了其在实际应用场景中的适用性和多样性。