독립적인 비영리 이니셔티브불가리아 바르나 · 2026년 설립
MATREYA

불교·과학·인공지능 연구소

지혜 · 탐구 · 자비
모든 살아 있는 존재의이익을 위하여
한국어

AI 지원 번역입니다. 언어 전문가의 검토를 환영합니다. · 원문 (EN) · 부정확한 내용 신고

연구

DharmaBench는 불교 문헌에서 언어 모델을 시험하지만 점수를 ‘이해’라고 부르지 않는다

ACL 2025 벤치마크는 산스크리트어와 고전 티베트어의 13개 정의된 과제를 점검 가능하게 만들지만 불교적 권위를 자동화하지는 않는다.

Editorial illustration of stones and geometric forms arranged around an evaluation lens
도판. DharmaBench: a task map for evaluating models. Original AI-assisted editorial illustration, not a DharmaBench dataset scan or a claim of religious authority for a model.Matreya editorial team · AI-generated illustration · Original AI-assisted editorial illustration; rights reserved · 출처와 원본

2025년 12월 ACL 논문은 산스크리트어와 고전 티베트어 불교 문헌에서 언어 모델을 평가하는 DharmaBench를 소개한다. 저자들은 분류와 탐지의 13개 과제를 설명한다. 산스크리트어 과제는 6개, 티베트어 과제는 7개이며, 과제 유형 4개는 두 언어에 공통이다. [1]

실용적 이점은 검증 가능성이다. 공개 저장소는 과제 데이터, 주석 지침, 평가 코드를 제공하고 데이터셋 공개는 무엇이 포함됐는지 살펴볼 두 번째 경로를 제공한다. 따라서 보고된 점수는 과제 정의, 예시, 데이터 분할과 함께 읽을 수 있다. 저자들은 데이터셋은 CC BY 4.0, 코드는 Apache-2.0으로 공개했다고도 밝히며, 재사용 전에는 적용 조건을 확인해야 한다. [1] [2] [3]

DharmaBench의 결과가 시스템이 불교를 이해한다는 것, 문헌의 이문을 결정할 수 있다는 것, 모든 맥락에서 신뢰할 만하게 번역한다는 것을 보이지는 않는다. 해석과 책임은 여전히 인간의 일이다. [1] [2]

출처

  1. Hashiloni et al. — DharmaBench: Evaluating Language Models on Buddhist Texts in Sanskrit and Tibetan (IJCNLP-AACL 2025; DOI 10.18653/v1/2025.ijcnlp-long.114)
  2. Intellexus-DSI — DharmaBench repository: task data, annotation guidance and evaluation code
  3. Intellexus — DharmaBench dataset release