Независимая некоммерческая инициативаВарна, Болгария · Основана в 2026
МАТРЕЯ

Институт буддизма, науки и искусственного интеллекта

Мудрость · Исследование · Сострадание
Ради благавсех живых существ
Русский

Исследования

DharmaBench проверяет языковые модели на буддийских текстах — но не называет результат пониманием

Бенчмарк ACL 2025 делает проверяемыми 13 определённых задач на санскрите и классическом тибетском, не автоматизируя буддийский авторитет.

Редакционная иллюстрация круга из камней и геометрических форм вокруг линзы оценки
Иллюстрация. DharmaBench: карта задач для проверки моделей. Оригинальная ИИ-иллюстрация редакции, не скан датасета DharmaBench и не утверждение о религиозном авторитете модели.Matreya editorial team · AI-generated illustration · Original AI-assisted editorial illustration; rights reserved · Источник и оригинал

В статье ACL за декабрь 2025 года представлен DharmaBench — бенчмарк для оценки языковых моделей на буддийских текстах на санскрите и классическом тибетском. Авторы описывают 13 задач классификации и распознавания: шесть для санскрита и семь для тибетского, причём четыре типа задач общие для двух языков. Это делает измеримым ограниченный набор филологических и текстовых вопросов, а не превращает буддийские традиции в общий материал для промптов. [1]

Практическая польза — в проверяемости. Открытый репозиторий содержит данные задач, рекомендации по аннотации и код оценки, а выпуск датасета даёт читателю второй путь проверить состав материала. Поэтому опубликованный балл можно читать рядом с определением задачи, примерами и разбиением данных, а не считать необъяснённым вердиктом модели. Авторы также указывают: датасеты выпущены по CC BY 4.0, а код — по Apache-2.0; перед повторным использованием следует проверить применимые условия. [1] [2] [3]

Граница важна. Результат на DharmaBench не показывает, что система понимает буддизм, способна решить текстологический вариант или надёжно переводит во всех контекстах. Он измеряет работу относительно меток и задач, заданных авторами проекта. Бенчмарк помогает исследователям и читателям задавать более точные вопросы о свидетельствах; интерпретация и ответственность остаются человеческой работой. [1] [2]

Источники

  1. Hashiloni et al. — DharmaBench: Evaluating Language Models on Buddhist Texts in Sanskrit and Tibetan (IJCNLP-AACL 2025; DOI 10.18653/v1/2025.ijcnlp-long.114)
  2. Intellexus-DSI — DharmaBench repository: task data, annotation guidance and evaluation code
  3. Intellexus — DharmaBench dataset release