AI ランタイムは、ガードレールを使用して、攻撃や望ましくない応答から実稼働アプリケーションをリアルタイムで保護します。このガードレールは、AI モデルとアプリケーションの検証で特定された、各モデルの脆弱性に合わせて自動的に設定されます。
悪意のある入力をブロック
AI システムに対する攻撃の頻度が増加し、巧妙化しています。特に、接続されるデータの増加に伴って、その傾向が高まっています。AI ランタイムはすべての入力を検査し、悪意のあるペイロードが被害を引き起こす前に自動的にブロックします。よくある攻撃には、プロンプトインジェクション、プロンプト抽出、サービス拒否(DoS)、コマンドの実行などがあります。このコンポーネントはまた、個人を特定できる情報(PII)などの機密データがモデルに入力されないようにします。
安全なモデル出力を保証
AI モデルでは、悪意のある行動や不注意の行動によって望ましくない応答が生成されることがあります。AI ランタイムはモデルの出力をスキャンして、機密情報、ハルシネーション、その他の有害なコンテンツが含まれていないことを確認します。組織の基準から外れている応答はブロックされます。こうしたものには、検索拡張生成(RAG)に使用される、ファインチューニングされた機密データまたは接続されたデータベースからの機密データが含まれます。
ユースケースに合わせてポリシーをカスタマイズ
AI モデルはさまざまな業界やユースケースで使用されており、異なるガードレールが必要です。AI ランタイムは、AI 検証が特定した各モデルの脆弱性に合わせてカスタマイズできる、何百ものすぐに利用できる保護機能を提供します。ルールは、乱暴な言葉をどの程度まで許容するかや何が機密情報に該当するかなど、組織の標準に合わせて調整できます。
AI アプリケーションを自信を持って展開する
ネットワークレベルの可視化とポリシー適用
シスコは、ネットワーク上のトラフィックを可視化して制御することで、多数の適用ポイントを使用して、悪意のあるまたは望ましくない AI トラフィックを検出してブロックできます。
モデルとアプリケーションに依存しないセキュリティ
AI ランタイムは、チャットボット、検索拡張生成(RAG)アプリケーション、AI エージェントなどの各種生成 AI アプリケーションを保護します。独自仕様、商用、およびオープンソースの AI アプリケーションをデフォルトでサポートします。
重要なアプリケーションの超高速な保護
AI ランタイムは、最も要求の厳しいエンタープライズ アプリケーション向けに、高可用性と帯域幅を提供する低遅延のサービスです。
組織において AI セキュリティの卓越性を実現
AI Defense は、OWASP Top 10 for LLM Applications を含む AI セキュリティ標準への準拠を容易にします。MITRE、NIST、OWASP の標準への対応をはじめ、個々の AI リスクについては、AI セキュリティのタクソノミー(taxonomy)をご覧ください。