Laya 런타임 0.3.20, 긴 문서 처리 측정과 서버·가속 경로 오류 수정

• Convai Innovations가 System One 모델 Laya를 돌리는 파이썬 라이브러리 laya 0.3.20을 내놓았다.
• 체크포인트 자체는 바뀌지 않았다.
• 회사는 최신 수정 사항을 받으려면 pip install -U laya로 올리라고 안내했다.

바뀐 점은 다음과 같다.

• laya-multilingual에 max_len=8192를 주고 긴 문서를 읽을 때의 정확도와 걸린 시간을 문서 길이별로 잰 표가 더해졌다.
• TileLang 가속 경로가 더 튼튼해졌다. CUDA 메모리 부족 오류가 나서 CPU로 넘어갈 때 가속 경로를 먼저 끈다. 선택지가 하나뿐인 choice 질문을 넣어도 더는 멈추지 않는다. 동시에 들어온 호출이 서로의 CUDA 그래프 버퍼를 덮어쓰는 일도 없어졌다.
• laya-serve는 종료할 때 추론 작업을 마저 처리하고 닫는다. 잘못된 형식의 bearer 인증 헤더에는 401을 돌려준다.
• ONNXAgent는 질문이 비었을 때와 대화 목록이 길 때 Agent와 같게 동작한다.