Кто учит искусственный интеллект быть справедливым: тайны этичного ИИ

Искусственный интеллект уже умеет писать тексты, создавать изображения, анализировать документы, распознавать лица и помогать людям принимать решения.

Об этом сообщает Независимый регион

Но кто учит его понимать, что правильно, а что — нет?

На первый взгляд этот вопрос кажется философским. На самом деле он становится всё более практическим.

Искусственный интеллект используется в медицине, образовании, банковской сфере, рекрутинге, государственном управлении, маркетинге и множестве других областей.

От решений алгоритмов иногда могут зависеть деньги, карьера, доступ к услугам и даже здоровье человека.

Поэтому вместе с развитием нейросетей появляется всё более важное направление — этика искусственного интеллекта.

Нейросеть не рождается с понятиями добра и зла. Она учится на данных, правилах и примерах, которые создают люди.

Что такое этичный дизайн ИИ

Этичный дизайн ИИ — это подход к созданию систем искусственного интеллекта, при котором

разработчики учитывают не только производительность и точность алгоритма, но и возможные последствия его применения.

Обычная разработка может начинаться с вопроса:

«Как сделать эту модель максимально точной?»

Этичный дизайн добавляет к нему целый ряд других вопросов:

• Безопасно ли использовать эту технологию?
• Может ли она дискриминировать людей?
• Одинаково ли хорошо она работает для разных групп?
• Откуда взялись обучающие данные?
• Защищены ли персональные данные?
• Кто будет отвечать за ошибку?
• Может ли человек проверить или оспорить решение алгоритма?
• Нужен ли человеческий контроль?

Таким образом, этичный ИИ — это не просто нейросеть с набором запретов.

Это целая система принципов, технологий, проверок и правил, призванная сделать искусственный интеллект более безопасным, справедливым и подотчётным человеку.

Можно ли научить искусственный интеллект различать добро и зло

Здесь важно разделять человеческую мораль и поведение машины.

Человек способен испытывать сострадание, чувство вины, страх и ответственность. Нейросеть не переживает моральные дилеммы так, как человек.

Она анализирует информацию и формирует результат в соответствии со своими параметрами, обучением и установленными правилами.

Поэтому правильнее сказать, что разработчики не учат ИИ «добру» в человеческом понимании, а создают условия, при которых система:

1. не генерирует опасный контент;
2. не способствует дискриминации;
3. защищает конфиденциальные данные;
4. соблюдает установленные ограничения;
5. ведёт себя предсказуемо в критических ситуациях;
6. позволяет человеку вмешаться, когда это необходимо.

Мораль машины — это не совесть внутри алгоритма, а совокупность человеческих решений, правил, данных и ограничений.

Кто на самом деле учит ИИ этике

Когда мы говорим об «обучении нейросети», легко представить программиста, который просто загружает данные и запускает алгоритм.

На практике создание ответственного ИИ — гораздо более сложный процесс.

В нём могут участвовать:

Специалисты	Их роль
Программисты и ML-инженеры	Создают и настраивают модели
Дата-сайентисты	Работают с обучающими данными
Специалисты по AI Safety	Анализируют потенциальные риски
Этики и философы	Исследуют моральные дилеммы
Юристы	Анализируют правовые риски
UX/UI-дизайнеры	Проектируют взаимодействие человека с ИИ
Социологи и психологи	Изучают социальное влияние технологии
Отраслевые эксперты	Проверяют ИИ в конкретной сфере
Представители разных групп пользователей	Помогают выявлять скрытые проблемы
Регуляторы	Устанавливают законодательные требования

Таким образом, этичный искусственный интеллект — результат работы не одной профессии, а целой экосистемы специалистов.

Откуда берётся предвзятость нейросетей

Одно из самых распространённых заблуждений заключается в том, что алгоритм автоматически является объективным.

На самом деле искусственный интеллект способен воспроизводить предубеждения, которые уже существуют в обществе или содержатся в данных.

1. Предвзятые обучающие данные

Нейросеть обучается на огромном количестве примеров.

Если эти данные содержат исторические ошибки или неравномерно представляют различные группы людей, модель может усвоить соответствующие закономерности.

Например, если система анализирует исторические решения при найме сотрудников, а в этих

решениях уже существовала дискриминация, алгоритм может ошибочно воспринять её как признак «успешного кандидата».

2. Нерепрезентативные данные

Представим систему распознавания лиц.

Если её преимущественно обучали на фотографиях людей определённого типа, она может работать значительно хуже с представителями других групп.

При этом разработчики могли вообще не ставить целью создание дискриминационной системы.

Иногда предвзятость появляется не потому, что кого-то намеренно хотели дискриминировать, а потому, что кого-то просто не учли.

3. Человеческие предубеждения

Данные создают люди.

Люди решают, какие данные собирать, как их классифицировать и какие результаты считать правильными.

Поэтому человеческие стереотипы могут попасть в алгоритм косвенным образом.

4. Неправильно сформулированная цель

Иногда проблема заключается не в данных и даже не в самой нейросети.

Проблема может быть в том, что именно мы попросили её оптимизировать.

Например:

«Найди кандидатов, которые больше всего похожи на людей, которых компания успешно нанимала в прошлом».

Звучит логично.

Но если исторический персонал был однородным, алгоритм может научиться воспроизводить прошлое вместо поиска лучших кандидатов.

Почему не существует абсолютно нейтрального алгоритма

Алгоритмы работают с математикой.

Но решения о том, какую именно математику применять и к каким данным, принимают люди.

Кто-то определяет:

• какую информацию собирать;
• какие данные считать важными;
• что является правильным ответом;
• какую ошибку считать критической;
• какой результат оптимизировать;
• какой уровень риска допустим.

Поэтому даже самая сложная нейросеть не существует в вакууме.

Алгоритм может быть математически точным, но это ещё не означает, что его решения будут справедливыми.

Что означает «справедливый ИИ»

Это один из самых сложных вопросов в этике искусственного интеллекта.

На первый взгляд кажется, что справедливость означает одинаковое отношение алгоритма ко всем.

Но одинаковое отношение не всегда означает одинаковый результат.

Например, разные группы людей могут иметь разные исходные условия. Поэтому одна и та же математическая процедура способна приводить к разным последствиям.

Именно поэтому специалисты по AI Ethics используют разные подходы к оценке справедливости.

Подход	Основная идея
Равенство результатов	Результаты для групп должны быть максимально сбалансированными
Равенство возможностей	Люди из разных групп должны иметь сопоставимые шансы
Равенство ошибок	Уровень ошибочных решений не должен непропорционально приходиться на одну группу
Контекстная справедливость	Решение оценивается с учётом конкретной ситуации

Проблема в том, что разные критерии справедливости не всегда возможно одновременно соблюсти.

Поэтому справедливость в ИИ — это не только математическая проблема, но и социальный и этический вопрос.

Как борются с предвзятостью искусственного интеллекта

Для этого используется целый комплекс методов.

Проверка обучающих данных

Перед обучением модели анализируют:

• происхождение данных;
• их качество;
• полноту;
• репрезентативность;
• наличие ошибок;
• возможные исторические предубеждения;
• риски нарушения приватности.

Тестирование на разных группах

Недостаточно знать только общую точность модели.

Нужно проверять, как она работает с разными группами пользователей и в различных сценариях.

Аудит алгоритмов

Специальные проверки помогают обнаружить систематические ошибки и дискриминационные закономерности.

Red Teaming

Специалисты намеренно пытаются найти слабые места системы.

Они задают вопросы:

«Как можно заставить эту модель ошибиться?»

или:

«В каких ситуациях её решения способны причинить вред?»

Человек в контуре принятия решений

Для критически важных решений автоматизация не должна означать полный отказ от человеческого контроля.

Человек может:

• проверить решение;
• отменить его;
• запросить дополнительные данные;
• оценить нестандартную ситуацию;
• взять на себя ответственность.

Этичный дизайн ИИ начинается ещё до запуска нейросети

Одна из главных ошибок компаний — начинать думать об этике после создания продукта.

Гораздо эффективнее учитывать риски ещё на этапе проектирования.

Условно этот процесс можно представить так:

Цель → Данные → Модель → Тестирование → Запуск → Мониторинг → Аудит → Улучшение

На каждом этапе необходимо задавать отдельные вопросы.

Этап	Основной вопрос
Цель	Стоит ли вообще автоматизировать эту задачу?
Данные	Являются ли данные качественными и репрезентативными?
Модель	Какие риски создаёт алгоритм?
Тестирование	Для кого система может работать хуже?
Запуск	Предусмотрен ли человеческий контроль?
Мониторинг	Не появились ли новые проблемы?
Аудит	Соответствует ли система заявленным принципам?
Улучшение	Что необходимо изменить после получения новых данных?

Почему невозможно просто «удалить предвзятость»

На первый взгляд решение кажется простым: найти предвзятые данные и убрать их.

Но проблема гораздо сложнее.

Предвзятость может находиться:

• в данных;
• в способе их сбора;
• в формулировке задачи;
• в выборе метрик;
• в программном коде;
• в человеческих решениях;
• в процессах компании;
• в способе использования системы.

Например, модель может отлично пройти лабораторный тест, но после запуска попасть в среду, где пользователи применяют её совсем не так, как предполагали разработчики.

Поэтому этичный ИИ требует постоянного мониторинга, а не одноразовой проверки перед релизом.

Кто отвечает, если ИИ ошибся

Представим ситуацию: алгоритм неправильно оценил кандидата на работу, ошибся при анализе медицинских данных или отказал человеку в финансовой услуге.

Кто будет отвечать?

• программист;
• компания;
• поставщик данных;
• владелец системы;
• оператор;
• пользователь?

Переложить ответственность на сам алгоритм невозможно.

ИИ не является юридическим или моральным субъектом в человеческом понимании.

Именно поэтому одним из важнейших элементов этичного дизайна является подотчётность.

Должно быть понятно:

1. кто создал систему;
2. кто её контролирует;
3. кто имеет право изменить её решение;
4. кто отвечает за последствия;
5. куда человек может обратиться с жалобой.

Может ли ИИ быть предвзятым без злого умысла

Да.

И это одна из наиболее важных особенностей проблемы AI bias.

Чтобы создать несправедливую систему, необязательно иметь разработчика с дискриминационными взглядами.

Достаточно:

• неполных данных;
• неудачной метрики;
• исторических перекосов;
• ошибки при разработке;
• неправильного применения;
• недостаточного тестирования.

Самая опасная предвзятость — та, которую никто не замечает, потому что она кажется «нормальной».

8 главных принципов этичного ИИ

Чтобы искусственный интеллект был не только эффективным, но и ответственным, стоит ориентироваться на следующие принципы.

1. Справедливость

Система не должна создавать необоснованную дискриминацию.

2. Прозрачность

Пользователи должны получать достаточно информации о том, что делает система и какие у неё есть ограничения.

3. Объяснимость

В критически важных случаях должна существовать возможность объяснить

логику полученного результата настолько, насколько это необходимо для ответственного использования.

4. Приватность

Персональные данные должны должным образом защищаться.

5. Безопасность

Система должна быть устойчива к ошибкам, злоупотреблениям и внешним атакам.

6. Подотчётность

Должна существовать конкретная ответственность за функционирование системы и последствия её работы.

7. Человеческий контроль

Особенно важные решения нельзя бездумно передавать алгоритму.

8. Инклюзивность

Система должна учитывать разнообразие людей, а не быть оптимизированной исключительно под условного «среднего пользователя».

Этичный ИИ — это больше, чем технология

Можно создать чрезвычайно точную нейросеть, но это ещё не означает, что её использование будет этичным.

Например, главным вопросом может быть не:

«Насколько хорошо алгоритм прогнозирует результат?»

а:

«Должна ли эта система вообще принимать такое решение?»

Именно здесь проходит граница между технологией и этикой.

Технология спрашивает: «Можем ли мы это сделать?»

Этика спрашивает: «Должны ли мы это делать?»

Ответственный дизайн спрашивает: «Как сделать это безопаснее для человека?»

Каким будет этичный ИИ в будущем

Искусственный интеллект постепенно становится частью повседневной жизни.

AI используется или внедряется в:

• медицине;
• образовании;
• банковской сфере;
• рекрутинге;
• транспорте;
• государственном управлении;
• кибербезопасности;
• научных исследованиях;
• маркетинге;
• творческих индустриях.

Поэтому вопрос будущего будет звучать не только так:

«Насколько умным стал искусственный интеллект?»

Но и так:

«Насколько ответственно мы научились его использовать?»

Заключение

Кто же на самом деле учит нейросети различать добро и зло?

Люди.

Но не один конкретный человек.

Это совместный результат работы программистов, исследователей, дата-сайентистов, юристов, дизайнеров, специалистов по этике, социологов, регуляторов, бизнеса и самих пользователей.

Они определяют:

• какие данные получает модель;
• какие задачи она выполняет;
• какие правила установлены;
• какие результаты считаются приемлемыми;
• какие ошибки являются опасными;
• где необходимо участие человека;
• кто отвечает за последствия.

Поэтому главная задача этичного дизайна — не создать машину с человеческой совестью.

Наша задача гораздо реалистичнее: создавать системы, которые минимизируют вред,

выявляют предвзятость, оставляют человека ответственным за важные решения и позволяют исправлять ошибки.

Возможно, будущее этичного ИИ зависит не от того, насколько хорошо мы научим машины отличать добро от зла, а от того, насколько хорошо люди научатся ответственно использовать собственные технологии.

Кроме того, узнайте что нужно знать перед обновлением iOS на iPhone.