«У каждого есть роль в преодолении предвзятости искусственного интеллекта»

Date: 16 April 2021
Other languages: English |
По мере того, как все больше стран продвигаются вверх по линии цифровой трансформации и искусственного интеллекта (ИИ), люди должны обращать внимание «на то, что они видят и чего не видят, чтобы можно устранить любые скрытые предубеждения», - сказал Стив Краун, вице-президент и заместитель генерального юрисконсульта в компании Майкрософт.

«ИИ – это творение человека, и люди определяют, какие данные в него вводятся, что может выдать за истину, и что нет», - сказал Краун, чья онлайн-лекция, организованная УЦА 16 марта 2021 года, была посвящена ИИ и человеку.
Эта предвзятость возникает не обязательно из-за умышленных проступков со стороны IT-ученых, которые их разрабатывают, но часто из-за количества и качества данных, с которыми они работают, сказал Краун. Он привел пример технологии распознавания лиц, многие из которых ориентированы на людей со светлой кожей, особенно мужчин. 


«Технология распознавания лиц часто передает информацию о людях с более светлой кожей, особенно мужчин, из-за большого количества доступных данных для изучения людей со светлой кожей в СМИ», - пояснил Стив Краун во время своей лекции.

В средствах массовой информации (СМИ) появляется больше данных в виде изображений людей со светлой кожей, «которые затем отражаются на сборе данных для ИИ», - сказал Краун, и что обучающий сбор данных также искажает изображения, зависящих от хорошей фокусировки и освещения.

По словам Крауна, при каждом использовании ИИ важно знать, какие перспективы, предположения и предубеждения влияют на производительность. ИИ может играть скрытые роли в таких вопросах, как распределение и отказ от ресурсов и возможностей, в анализе рисков при принятии таких решений как выдача кредитных займов, найм людей на работу и другие вопросы. «ИИ - это самая мощная технология, созданная людьми», - сказал он, добавив, что это «воодушевляет, но также заставляет задуматься», потому что остается много вопросов, на которые нет ответа. «Это вызов для всего человечества, и все мы должны сыграть свою роль».

По словам Крауна, Майкрософт решает проблему предвзятости «с более широкой этической точки зрения и прав человека», уделяя особое внимание ответственному и «ориентированному на человека ИИ». Основными составляющими ИИ являются справедливость, надежность, безопасность, конфиденциальность, инклюзивность, прозрачность и подотчетность.


Шейх, один из ведущих инженеров Microsoft, стоящих у истоков разработки Seeing AI, сам пользуется приложением, поскольку он слепой.

Сравнивая смещение гравитации, которая может быть как полезной, так и разрушительной, Краун сказал, что ее можно использовать с помощью ИИ для решения мировых проблем. Он привел пример о бесплатном приложении Microsoft Seeing AI, которое помогает сообществу слепых и слабовидящих ориентироваться в своем мире, описывая людей, предметы и вещи, которые их окружают. Приложение использует камеру смартфона, фиксирующих происходящие вещи вокруг пользователя, и передающих это с помощью голоса. Сакиб Шейх, один из ведущих инженеров Майкрософт, участвовавший в разработке Seeing AI, пользуется таким приложением, поскольку он слепой.

Полная запись на нашем Youtube канале.