의 응답 스트리밍을 사용하는 Lambda 함수를 모니터링하여 AWS Node.js 각 호출의 성능과 동작을 파악할 수 있습니다. 이 솔루션은 AI 모니터링 과 통합되어 모델 응답을 추적하고 AI 워크로드와 관련된 옵저버빌리티 데이터를 수집할 수 있습니다. 이러한 기능을 사용하면 서버리스 시스템 성능을 최적화하고 AI 기반 프로세스에 대한 포괄적인 감독을 유지할 수 있습니다.
이 문서는 다음 사항에 도움이 됩니다.
- 모니터링 응답 스트리밍 Lambda 함수 설정
- 응답 스트리밍 Lambda 함수에 사용 가능한 메트릭과 데이터를 이해합니다.
- 블루렐릭 UI 사용하여 응답 스트리밍의 성능을 모니터링하고 관찰하는 방법을 알아보세요. Lambda 함수
Lambda 응답 스트리밍 설정
전제 조건
- 귀하의 Lambda 함수가 당사의 호환성과 요구 사항을 충족하는지 확인하세요.
- Node.js에서 사용할 수 있는 최신 람다 계층을 사용하세요.
Lambda 응답 스트리밍 구성
Node.js Lambda 함수에 대한 응답 스트리밍 모니터링을 활성화하려면:
뉴렐릭에Lambda 모니터링을 설치하고 구성합니다.
Node.js 응답 스트리밍 Lambda 함수에 필요한 환경 변수를 추가합니다.
변경 사항을 저장하고 함수를 구현합니다.
구현 후, 뉴렐릭 플랫폼에서 Lambda 응답 스트리밍 데이터를 볼 수 있습니다. 자세한 내용은 Lambda 응답 스트리밍 데이터에 액세스를 참조하세요.
Lambda 응답 스트리밍 데이터에 액세스
블루렐릭 플랫폼에서 Lambda 응답 스트리밍 데이터를 보려면:
one.newrelic.com > left navigation pane > All Capabilities > Serverless Functions 으)로 이동합니다.
응답 스트리밍을 사용하는 필수 Lambda 함수를 선택하세요.
응답 스트리밍 Lambda 함수에 대한 요약, 호출, CloudWatch 지표 및 독점 추적을 확인하세요.
More views [더 많은 보기] 섹션에서 AI Responses [AI 응답을] 클릭합니다.
AI 응답에 대해 자세히 알아보려면 AI 응답 보기를 참조하세요.
응답 스트리밍을 위한 주요 지표
Cloudwatch metrics [CloudWatch 지표] 페이지에서 응답 스트리밍과 관련된 다음 지표를 모니터링합니다.
- 스트리밍된 아웃바운드 바이트: Lambda 함수에서 스트리밍된 평균 바이트 수를 표시합니다.
- 스트리밍 아웃바운드 처리량: Lambda 함수에 의해 바이트가 스트리밍되는 평균 속도를 표시합니다.
UI 에 대한 자세한 내용은 뉴렐릭 플랫폼 소개를 참조하세요.