Об этом сообщает «Politexpert» со ссылкой на HackerNoon
Искусственный интеллект (ИИ) проникает в различные аспекты нашей жизни, включая обработку контента, рекомендационные системы и управление информацией. Однако, несмотря на быстрый рост его возможностей, технологии все еще страдают от важного пробела — культурной слепоты. Это выражается в неспособности ИИ правильно интерпретировать культурные особенности и моральные категории, что порой приводит к реальным негативным последствиям.
На данный момент ИИ в основном обучается на данных, собранных из англоязычных источников, что искажает его способность взаимодействовать с пользователями из других культур. Это ведет к многочисленным ошибкам в контент-модерации и нарушению этических норм. Примером тому служат недавние инциденты с модерацией контента на платформах, таких как Meta, где алгоритмы ошибочно удаляли посты или способствовали распространению ненавистнических высказываний. Эти проблемы не только технические, но и этические, что делает важным решение вопроса о культурной чувствительности ИИ.
Почему ИИ не понимает культурные различия?
Основной причиной культурной слепоты ИИ является ограниченность данных, на которых его обучают. Примером этого является использование языков, которые доминируют в интернете, таких как английский. В то время как англоязычные системы могут эффективно анализировать универсальные моральные категории, такие как забота и вред, для более специфичных категорий, таких как чистота или авторитет, результат будет менее точным. Например, в разных странах понятия «чистоты» и «деградации» могут сильно отличаться, что затрудняет работу ИИ.
Недавнее исследование показало, что многие языковые модели ИИ, такие как mBERT, XLM-R и GPT-4, демонстрируют лучший результат в распознавании универсальных моральных категорий, чем в понимании культурно специфичных. Эти модели прекрасно справляются с задачами, связанными с понятием заботы и вреда, но оказываются беспомощными при анализе таких концептов, как чистота, уважение к старшим или моральные нормы, которые варьируются от культуры к культуре.
Риски и последствия неправильного восприятия культурных норм
Ошибки, вызванные культурной слепотой ИИ, могут иметь серьезные последствия. Например, платформы социальных сетей, использующие алгоритмы ИИ для модерации контента, могут неправильно удалять или блокировать посты, если они не соответствуют западным этическим стандартам. Это может привести к несправедливому наказанию пользователей, чьи сообщения соответствуют нормам их культуры, но не совпадают с принятыми в других частях мира.
Кроме того, несоответствие в распознавании моральных категорий может повлиять на создание рекомендаций, что особенно важно в контекстах образования, медицины или рекламы. Если ИИ не способен учитывать культурные различия, это может привести к распространению неэтичных или неподобающих материалов, которые не соответствуют ценностям определенной аудитории.
Как решить проблему культурной слепоты в ИИ?
Для решения этой проблемы важно учитывать культурные особенности на стадии разработки и обучения ИИ. Один из предложенных подходов — это создание стандарта культурного интеллекта, который бы оценивал, насколько хорошо ИИ учитывает культурные и моральные различия. Это может включать в себя использование прозрачных меток для оценки того, как модели распознают различные моральные категории в разных языках и культурах.
Разработчики также должны уделить больше внимания многоязычным данным, чтобы ИИ мог эффективно работать с различными культурными контекстами.
Напомним, ранее мы писали о том, что современная китайская литература расскажет о будущем.
