Aeonium v1.1 Base 4B

0x7o Создан 12.06.2024 09:44
0.199
Общий результат
Сабмит содержит не все обязательные задачи

Оценки по задачам лидерборда

Таблица скроллится влево

Задача Результат Метрика
LCS 0.116 Accuracy
RCB 0.333 / 0.167 Accuracy F1 macro
USE 0.004 Grade norm
RWSD 0.5 Accuracy
PARus 0.498 Accuracy
ruTiE 0.5 Accuracy
MultiQ 0.104 / 0.023 F1 Exact match
CheGeKa 0.007 / 0 F1 Exact match
ruModAr 0.001 Exact match
ruMultiAr 0.01 Exact match
MathLogicQA 0.222 Accuracy
ruWorldTree 0.265 / 0.222 Accuracy F1 macro
ruOpenBookQA 0.248 / 0.201 Accuracy F1 macro

Оценка на открытых задачах:

Перейти к оценкам по подкатегориям

Таблица скроллится влево

Задача Результат Метрика
BPS 0.461 Accuracy
ruMMLU 0.275 Accuracy
SimpleAr 0.006 Exact match
ruHumanEval 0 / 0 / 0 Pass@k
ruHHH 0.478
ruHateSpeech 0.543
ruDetox 0.249
ruEthics
Правильно Хорошо Этично
Добродетель 0 0 0
Закон 0 0 0
Мораль 0 0 0
Справедливость 0 0 0
Утилитаризм 0 0 0

Информация о сабмите:

Версия MERA
-
Версия Torch
-
Версия кодовой базы
-
Версия CUDA
-
Precision весов модели
-
Сид
-
Батч
-
Версия transformers
-
Количество GPU и их тип
-
Архитектура
-

Команда:

0x7o

Название ML-модели:

Aeonium v1.1 Base 4B

Ссылка на ML-модель:

https://huggingface.co/aeonium/Aeonium-v1.1-Base-4B

Описание архитектуры:

Llama; 4k context; 4B parameters

Описание обучения:

Pre-training only

Данные претрейна:

Web pages, news, literature, wikipedia

Детали обучения:

One epoch on TPU v4-256. lr = 0.0003

Лицензия:

Apache 2.0

Стратегия, генерация и параметры:

- lm-harness v1.1.0 - 1xRTX 4090 - transformers v4.41

Развернуть информацию

Оценки по подкатегориям

Метрика: Точность
Модель, команда Честность Помощь Безопасность
Aeonium v1.1 Base 4B
0x7o
0.492 0.475 0.466
Модель, команда Анатомия Вирусология Астрономия Маркетинг Нутрициология Социология Менеджмент Философия История древнего мира Геронтология Эконометрика Формальная логика Факторы глобального значения Юриспунденция Микс (разнообразный домен) Мораль Бизнес-этика Биология (школьная) Физика (школьная) Человеческая сексуальность Моральные сценарии Мировые религии Общая алгебра Медицина (школьная) Машинное обучение Генетика Профессиональное законодательство PR Безопасность Химия (школьная) Компьютерная безопасность Международное право Логические ошибки Политика Клинические знания Концептуальная физика Математика (школьная) Биология (университетская) Физика (университетская) Химия (университетская) География (университетская) Профессиональная медицина Электротехника Элементарная математика Психология (университетская) Статистика (университетская) История (университетская) Математика (университетская) Бухгалтерский учет Профессиональная психология Компьютерные науки (уровень колледжа) Мировая история (университетская) Макроэкономика Микроэкономика Компьютерные науки (университетские) История европы Государство и политика
Aeonium v1.1 Base 4B
0x7o
0 0.188 0.3 0.314 0.19 0.1 0.2 0.294 0.5 0.2 0.273 0.8 0.1 0.385 0.182 0.3 0.2 0.222 0.5 0.3 0.3 0.346 0.2 0.373 0.2 0.364 0.5 0.357 0 0.182 0.2 0.333 0.5 0.2 0.273 0.3 0.1 0.143 0.3 0.3 0.266 0.1 0.4 0.2 0.25 0 0.2 0.3 0.4 0.2 0.182 0.188 0.353 0.267 0.208 0.273 0.296
Модель, команда SIM FL STA
Aeonium v1.1 Base 4B
0x7o
0.547 0.681 0.59
Правильно
Хорошо
Этично
Модель, команда Добродетель Закон Мораль Справедливость Утилитаризм
Aeonium v1.1 Base 4B
0x7o
0 0 0 0 0
Модель, команда Добродетель Закон Мораль Справедливость Утилитаризм
Aeonium v1.1 Base 4B
0x7o
0 0 0 0 0
Модель, команда Добродетель Закон Мораль Справедливость Утилитаризм
Aeonium v1.1 Base 4B
0x7o
0 0 0 0 0
Модель, команда Женщины Мужчины ЛГБТ Национальности Мигранты Другое
Aeonium v1.1 Base 4B
0x7o
0.519 0.686 0.588 0.595 0.286 0.492