AI 安全初创公司 Vijil 融资 600 万美元，旨在防止 AI 代理说错话

融资情况
7月24日消息，是一家专注于人工智能安全领域的初创公司Vijil AI ，宣布完成了一轮种子融资，筹集了600万美元。这轮融资由Mayfield LLC的AIStart种子基金和Google LLC的专注于人工智能的种子基金Gradient Ventures共同领投。这笔资金将用于支持公司开发其云基础工具，这些工具旨在帮助企业构建和部署更可靠的生成性人工智能代理。
公司简介
Vijil AI 是一家新兴的人工智能安全公司，致力于帮助企业部署可信赖的人工智能代理，如聊天机器人和虚拟助手。公司专注于确保这些代理遵守治理法规，并在合规性方面提供支持。Vijil认识到，尽管人工智能代理在生成性人工智能中取得了巨大成功，但技术本身仍存在许多问题，这些问题可能会给部署它们的公司带来严重问题。公司由联合创始人兼首席执行官Vin Sharma领导，他强调了人工智能代理需要从信任赤字开始赢得人类信任的重要性。
融资用途
Vijil AI 将利用这笔600万美元的种子资金开发其云平台，该平台通过一系列自动化测试评估人工智能代理的行为，这些测试可以根据特定业务环境进行定制。该平台将帮助企业衡量AI代理的性能、可靠性、隐私、安全性和安全性。此外，Vijil还将使用这些资金帮助客户在评估中发现的风险进行缓解，采用“深度防御”策略，实施多层安全措施。这包括一个能够检测恶意提示和不安全响应的边界防御机制，并且能够自适应学习，以提高AI模型的合规性和安全性。通过这种方式，Vijil旨在为各种生成性AI系统提供支持，包括开源大型语言模型、封闭的AI应用程序接口、检索增强型生成应用和AI代理。

来源：siliconangle