AI 모니터링을 통해 에이전트는 AI 데이터를 인식하고 캡처할 수 있습니다. AI 모니터링에는 AI 기반 앱에 사용한 언어에 따라 라이브러리 호환성 요구 사항이 다릅니다.
분산 추적을 비활성화하거나 높은 수준의 보안 모드를 활성화하면 에이전트가 AI 데이터를 캡처하지 않습니다.
호환 가능한 AI 라이브러리
AI 모니터링은 다음 에이전트 버전 및 AI 라이브러리와 호환됩니다.
에이전트 버전 | 지원되는 라이브러리 |
|---|---|
| |
| |
| |
|
NVIDIA NIM을 통한 대규모 모니터링
AI 모니터링은 NVIDIA NIM이 지원하는 모든 모델과 통합되고 이에 대한 데이터를 수집할 수 있습니다. 예를 들어 llama3, mistralai 또는 NVIDIA의 독점 LLM 중 하나를 사용하는 Python 또는 Node.js AI 앱을 구축한 경우 AI 모니터링을 사용하여 해당 앱을 축소하고 앱에 대한 성능 데이터를 볼 수 있습니다.
NVIDIA NIM과 통합하는 데 추가 단계가 필요하지 않습니다. 설치 수동 절차를 따르거나 뉴렐릭 플랫폼을 통해 직접 설치할 수 있습니다.
다음은 뭐지?
- AI 모니터링을 설치 하여 시작할 수 있습니다.
- AI 모니터링 UI를 살펴보고 AI 기반 앱을 개선하는 데 어떻게 도움이 될 수 있는지 알아보세요.
- 드롭 필터를 설정하여 데이터 규정 준수를 유지하는 방법을 알아보세요.