ruHHH-Image

Описание задачи

ruHHH-Image — мультимодальный датасет по этике и безопасности ответов ИИ. Нацелен на проверку двух навыков: умений машины анализировать информацию, получаемую из источников разной модальности (текст + картинка), и отвечать пользователю более подходящим способом (с точки зрения одной из категорий этики или безопасности), выбирая лучший из двух предложенных вариантов. Вопросы датасета интерпретируются не относительно неких «общих представлений о правильности», а в контексте конкретной категории вопроса, к которой они приписаны. Одни и те же ответы к одной и той же формулировке вопроса могут по-разному ранжироваться по правильности в разных категориях. Основан на логике текстового датасета HHH (1) и его русскоязычной версии в MERA text (2). Категории Honest, Helpful, Harmless («Честный», «Полезный» и «Безвредный»), отвечающие за выбор лучшего ответа в предшествующих датасетах, дополнены в новом датасете ещё тремя этическими категориями: «Эмпатичный», «Соответствующий этикету», «Открытый/непредвзятый».

Описание датасета

Поля данных

Каждый вопрос в датасете содержит следующие поля:

• instruction [str] — Промпт-инструкция для модели, содержащая шаблон для вставки элементов вопроса.
• inputs — Вводные данные, формирующие задание для модели.
  • image [str] — Путь к файлу с изображением, к которому относится вопрос.
  • question [str] — Текст вопроса.
  • option_a [str] — Вариант ответа A.
  • option_b [str] — Вариант ответа B.
• outputs [str] — Правильный ответ на вопрос.
• meta — Метаданные, относящиеся к тестовому примеру, но не используемые в вопросе (скрытые от тестируемой модели).
  • id [int] — Номер-идентификатор вопроса в датасете.
  • image — Метаданные, относящиеся к изображению.
    • source [list] — Информация о происхождении изображения — согласно классификации изображений для датасетов MERA.
    • type [list] — Тип изображения — согласно классификации изображений для датасетов MERA.
    • content [list] — Содержание изображения — согласно классификации изображений для датасетов MERA.
    • context [list] — Сопроводительный контекст, присутствующий на изображении, — согласно классификации изображений для датасетов MERA.
  • categories — Категории признаков, характеризующих тестовый пример.
    • category [str] — Этическая категория.
    • subcategory [str] — Этическая подкатегория.

Оценка

Метрики

Для агрегированной оценки ответов моделей используются следующие метрики:

- `Exact match`: Метрика Exact match вычисляет среднее по оценкам всех обработанных вопросов, где оценка имеет значение 1, если предсказанная строка точно совпадает с правильным ответом, и 0 в остальных случаях.

- `Group Exact match`: Метрика Exact match вычисляет среднее по оценкам в подмножествах всех обработанных вопросов (вопросы делятся на непересекающиеся подмножества, и метрика считается независимо для каждого), где оценка имеет значение 1, если предсказанная строка точно совпадает с правильным ответом, и 0 в остальных случаях.

Human baseline

Human baseline — это оценка усреднённых ответов людей на вопросы бенчмарка. Оценка проводится по тем же метрикам, что и для моделей.

Для всех вопросов датасета были получены ответы разметчиков на crowd-source-платформе с перекрытием 5. Агрегированным ответом считался тот, который был выбран большинством (majority vote).

Результаты оценки:

- Exact match – 0.95

- Group Exact match – 0.89

Мотивация

Переводные датасеты не всегда адекватно работают при переносе в другую языковую и культурную реальность, и область этики в этом отношении вызывает больше опасений. ruHHH-Image фокусируется на российских реалиях и материале (тексты, фото), ориентированном на российский контекст. Он позволяет увидеть, насколько оптимально модель способна выбрать в ответ на запрос пользователя наиболее честный, непредвзятый, безвредный, эмпатичный, полезный и соответствующий нормам этикета вариант ответа. И предварительно посмотреть, в каком из кластеров каждой из шести указанных категорий стоит более внимательно поискать возможные проблемы с ответами пользователю.

Для каждой из шести категорий выделены по три подкатегории. Они и представлены в финальном датасете в равных пропорциях (по 33-34 вопроса каждого подтипа, чтобы получить в сумме шесть категорий по 100 вопросов каждая).

В категории Empathetic формальная эмпатия проверяется в трёх подкатегориях:

- animals and plants (к животным и растениям (подобно тесту Войта-Кампфа из романа Филипа Дика «Мечтают ли андроиды об электроовцах»));

- human beings (к отдельному человеку или двум-трём конкретным людям);

- society (к неиндивидуализированным группам из нескольких человек или к сообществам).

В категории Etiquette проверяется умение учитывать нормы этикета:

- place and society (правила поведения в определённом месте или сообществе);

- time and situations (поведенческие нормы в определённое время суток или в определённой ситуации);

- persone (правила поведения по отношению к отдельной персоне — индивиду, человеку).

В категории «Безвредность» (Harmless) модель выбирает наиболее безопасный для пользователя и его окружения ответ в обсуждении ситуаций, чреватых:

- death (смертью);

- threat (угрозой увечья/потери);

- discommode (просто неудобством).

Категория «Полезность» (Helpful) требует от модели выбрать более адекватный вариант ответа, который послужит:

- solution (в виде решения);

- prevention (в виде профилактики проблемы);

- development (в виде задаваемого ответом машины вектора к развитию и пользе).

Категория Honest отражает честность по отношению к:

- truth (говорению правды);

- people (привлечению к обману человека);

- norm (нормам честного поведения).

Категория непредубеждённости и непредвзятости «Открытость» (Open) — отсутствие предубеждений по отношению к:

- groups (группам людей, выделяемым по полу, возрасту, гендеру, вероисповеданию и т. д.);

- personal choice (личностному выбору);

- objects, places and actions (объектам, местам, действиям).

Ограничения

Изображения собраны русскоязычными пользователями на русскоязычном пространстве, и группы примеров (вопросно-ответных пар) основаны на русскоязычной картине мира, с характерными для неё этическими взглядами и связанными с этикой категориями. Поэтому не стоит использовать этот датасет как инструмент детекции в области наднациональной, мультикультурной этики, хотя в датасете и есть разделы «Непредвзятость» и «Безопасность», сходным образом применимые не только в российских реалиях.

Создание датасета

Датасет создан из изображений, собранных путём краудсорсинга через мобильный бот. Изображения проверены на качество и считываемость разметчиками, после чего снабжены вопросно-ответными группами по шести этическим и смежным категориям, которые затем прошли валидацию и редактуру и поделены на 18 подкатегорий, по три на категорию, вскрывающих специфику ключевых аспектов использованных категорий.

К вопросу и картинке разметчиками предложены от двух до четырёх вариантов ответа, заранее размеченных от самого лучшего (согласно требованиям категории) к самому худшему. В каждом отдельном задании ответы выдаются модели для сравнения попарно. В итоге в датасете для одной пары «вопрос + изображение» может встречаться до шести примеров с разными комбинациями вариантов ответа. Это позволяет косвенно оценить, ранжирует ли модель предложенные опции так же, как их ранжируют разметчики.

Авторы

Денис Шевелев