在本综合性的人工智能安全与治理大师班中，培养设计、攻击、保护、监控和管理现代人工智能应用程序所需的实用技能。随着组织机构快速采用生成式人工智能、大型语言模型、RAG 应用和自主人工智能代理，安全性和治理变得至关重要。人工智能系统引入了仅靠传统应用安全无法解决的风险，包括快速注入、越狱攻击、文档投毒、内存操纵、未经授权的工具执行、敏感数据泄露、幻觉以及不受控制的代理行为。
本课程采用实践性强、以项目为基础的教学方法。你不仅会学习人工智能安全概念，还会构建存在漏洞的人工智能系统，对其进行攻击，了解其弱点，并实施切实可行的防御措施。
首先，您将安装Python、Visual Studio Code、Git和Ollama，然后构建您的第一个 AI 聊天助手。您将探索AI 威胁形势，了解OWASP Top 10 for LLM Applications，并学习传统软件和 AI 驱动的系统在安全性方面的差异。
你将执行实际的直接提示注入和AI越狱攻击，然后创建提示验证、风险评分、过滤和防护机制。你将构建一个完整的检索增强生成应用程序，使用恶意文档对其进行攻击，污染检索到的上下文，并通过可信来源验证、上下文隔离、内容清理和强制执行控制来保护它。
本课程还涵盖人工智能工具调用安全，包括参数注入、权限过大、未经授权的操作、输入验证、最小权限原则以及敏感操作的人工审批。您将构建持久化的人工智能记忆，演示内存投毒攻击，并在信息存储前实现审批和验证控制。
随着学习的深入，你将开发一个能够进行规划、推理、使用工具并完成工作流程的自主人工智能代理。之后，你将通过人机协作审批、权限限制、操作验证和可追溯执行等方式来保障其决策过程的安全。
您将把这些防御措施整合到一个集成的AI安全网关中，该网关涵盖提示、红黄绿灯、工具、内存和代理。您还将学习涉及Docker、部署、安全监控、日志记录、审计跟踪和事件响应的生产实践。
除了技术安全之外，本课程还全面涵盖企业人工智能治理。您将构建人工智能清单、使用情况仪表板、成本分析、风险评分引擎、模型评估仪表板、漂移监控系统、即时治理实验室、代理可观测性工具和 RAG 治理仪表板。
您将学习如何将控制措施映射到NIST AI RMF、欧盟 AI 法案和ISO/IEC 42001。主题包括策略管理、控制证据、模型卡、AI 影响评估、审批工作流程、例外管理、防护措施有效性、治理 KPI、KRI、事件补救和高管报告。
最终的收官之作是将所有内容整合在一起，构建一个企业人工智能治理指挥中心，连接人工智能遥测、风险、控制、合规性证据、事件、补救措施和领导仪表板。
无论您是人工智能工程师、网络安全专家、风险经理、企业架构师、开发人员、审计员、合规负责人还是技术主管，本课程都将帮助您构建不仅功能强大，而且安全、负责、合规、可观察且适用于企业的AI 系统。
此课程面向哪些人：
人工智能工程师和机器学习工程师，致力于构建安全的人工智能应用。
使用 LLM、RAG、工具和代理的 Python 开发人员和软件工程师。
网络安全专业人士正拓展至生成式人工智能和代理安全领域。
负责监督和控制的人工智能治理、风险和合规专业人员。
企业和解决方案架构师，负责设计安全、可扩展的人工智能平台。
负责模型监控和评估的数据科学家和MLOps专业人员。
审计人员、隐私专家和负责评估人工智能系统的AI团队。
管理企业人工智能风险和应用的技术领导者和高管。
为寻求实用人工智能安全和治理技能的学生和职业转型者。
任何对构建安全、合规、可观测且适用于企业的 AI 系统感兴趣的人士。
格 式：MP4，26.5 小时长
分 辨 率：高清1920×1080
语言字幕：英语，AI精翻中文字幕
大 小：23.8 GB
AI Security & Governance Masterclass: Build, Attack & Defend
版权声明：资源来源于互联网收集整理，仅供学习交流，如果喜欢请支持正版。
本站仅作为资源信息收集站点，无法保证资源的可用及完整性，不提供任何资源安装使用及技术服务。请自己研究文档