Joseph Lucas

Joseph Lucas 是 NVIDIA 的高級攻擊性安全研究員，專注于人工智能。他是 DEF CON 30 AI Village Capture the Flag 比賽的建筑師和主持人之一，熱衷于機器學習安全教育。他曾在美國網絡司令部和 101 空降師服役。他擁有佐治亞理工學院計算機科學碩士學位和美國軍事學院數學學士學位。

Posts by Joseph Lucas

網絡安全 2025年 4月 29日

構建應用程序以安全使用 KV 緩存

在與基于 Transformer 的模型 (如 大語言模型 (LLM) 和 視覺語言模型 (VLM)) 交互時，輸入結構會塑造模型的輸出。 2 MIN READ
對話式人工智能 2024年 12月 16日

借助 WebAssembly 實現沙箱 Agentic AI 工作流

代理 AI 工作流通常 涉及執行由 大語言模型 (LLM) 生成的代碼，以執行創建數據可視化等任務。但是，此代碼應在安全環境中清理和執行， 2 MIN READ
網絡安全 2024年 7月 11日

使用 Canaries 防止 AI 模型文件未經授權訪問

隨著 AI 模型在功能和創建成本方面的增長，它們保存了更多敏感或專有數據，保護靜態數據變得越來越重要。為此，組織正在設計策略和工具， 2 MIN READ
網絡安全 2024年 6月 27日

保護應用程序完整性的安全 LLM 令牌化解決方案

本文是 NVIDIA AI Red Team 持續漏洞和技術研究的一部分。NVIDIA AI Red Team’… 1 MIN READ
網絡安全 2023年 10月 19日

AI 紅隊：機器學習安全培訓

在 Black Hat USA 2023 上， NVIDIA 舉辦了為期兩天的培訓課程，為安全專業人員提供了一個現實的環境和方法， 1 MIN READ
網絡安全 2023年 10月 4日

分析機器學習研究代碼的安全性

我們的 NVIDIA AI 紅隊 專注于在數據、科學和 AI 生態系統中擴展安全開發實踐。我們參與 開源安全倡議，發布 工具， 2 MIN READ