Random submission

MERA Создан 09.01.2024 08:34
0.205
Общий результат
Сабмит содержит не все обязательные задачи

Оценки по задачам лидерборда

Таблица скроллится влево

Задача Результат Метрика
LCS 0.096 Accuracy
RCB 0.361 / 0.36 Accuracy F1 macro
USE 0.064 Grade norm
RWSD 0.519 Accuracy
PARus 0.482 Accuracy
ruTiE 0.472 Accuracy
MultiQ 0.014 / 0.001 F1 Exact match
CheGeKa 0.002 / 0 F1 Exact match
ruModAr 0.0 Exact match
ruMultiAr 0.0 Exact match
MathLogicQA 0.244 Accuracy
ruWorldTree 0.23 / 0.229 Accuracy F1 macro
ruOpenBookQA 0.245 / 0.245 Accuracy F1 macro

Оценка на открытых задачах:

Перейти к оценкам по подкатегориям

Таблица скроллится влево

Задача Результат Метрика
BPS 0.5 Accuracy
ruMMLU 0.258 Accuracy
SimpleAr 0.0 Exact match
ruHumanEval 0 / 0 / 0 Pass@k
ruHHH 0.522
ruHateSpeech 0.468
ruDetox 0.382
ruEthics
Правильно Хорошо Этично
Добродетель 0.013 0.026 -0.022
Закон 0.014 0.029 0.016
Мораль -0.01 -0.023 -0.017
Справедливость -0.038 -0.045 -0.053
Утилитаризм 0.014 0.044 0.019

Информация о сабмите:

Версия MERA
-
Версия Torch
-
Версия кодовой базы
-
Версия CUDA
-
Precision весов модели
-
Сид
-
Батч
-
Версия transformers
-
Количество GPU и их тип
-
Архитектура
-

Команда:

MERA

Название ML-модели:

Random submission

Ссылка на ML-модель:

https://github.com/ai-forever/MERA

Описание архитектуры:

Random submission. Basic low baseline to compare with.

Описание обучения:

Random submission. For each task we randomly choose the result and score the variant.

Данные претрейна:

No data.

Детали обучения:

No training.

Лицензия:

-

Стратегия, генерация и параметры:

-

Развернуть информацию

Оценки по подкатегориям

Метрика: Точность
Модель, команда Честность Помощь Безопасность
Random submission
MERA
0.492 0.525 0.552
Модель, команда Анатомия Вирусология Астрономия Маркетинг Нутрициология Социология Менеджмент Философия История древнего мира Геронтология Эконометрика Формальная логика Факторы глобального значения Юриспунденция Микс (разнообразный домен) Мораль Бизнес-этика Биология (школьная) Физика (школьная) Человеческая сексуальность Моральные сценарии Мировые религии Общая алгебра Медицина (школьная) Машинное обучение Генетика Профессиональное законодательство PR Безопасность Химия (школьная) Компьютерная безопасность Международное право Логические ошибки Политика Клинические знания Концептуальная физика Математика (школьная) Биология (университетская) Физика (университетская) Химия (университетская) География (университетская) Профессиональная медицина Электротехника Элементарная математика Психология (университетская) Статистика (университетская) История (университетская) Математика (университетская) Бухгалтерский учет Профессиональная психология Компьютерные науки (уровень колледжа) Мировая история (университетская) Макроэкономика Микроэкономика Компьютерные науки (университетские) История европы Государство и политика
Random submission
MERA
0.1 0.25 0.4 0.314 0.238 0.2 0.267 0.176 0.1 0.2 0.455 0.4 0.4 0.192 0.136 0.1 0.4 0.37 0.4 0.4 0.1 0.231 0.2 0.235 0.5 0.273 0.313 0.429 0.4 0.091 0.1 0.444 0.1 0.2 0.182 0.3 0.5 0.333 0.5 0.5 0.228 0.2 0.2 0.1 0.25 0.2 0.2 0.1 0.3 0.1 0.182 0.188 0.235 0.4 0.292 0.182 0.259
Модель, команда SIM FL STA
Random submission
MERA
0.805 0.558 0.841
Правильно
Хорошо
Этично
Модель, команда Добродетель Закон Мораль Справедливость Утилитаризм
Random submission
MERA
0.013 0.014 -0.01 -0.038 0.014
Модель, команда Добродетель Закон Мораль Справедливость Утилитаризм
Random submission
MERA
0.026 0.029 -0.023 -0.045 0.044
Модель, команда Добродетель Закон Мораль Справедливость Утилитаризм
Random submission
MERA
-0.022 0.016 -0.017 -0.053 0.019
Модель, команда Женщины Мужчины ЛГБТ Национальности Мигранты Другое
Random submission
MERA
0.463 0.543 0.529 0.459 0.857 0.377