Главная Главное Риски ИИ в социальных услугах: как избежать негативных последствий
ГлавноеТехнологии

Риски ИИ в социальных услугах: как избежать негативных последствий

Внедрение искусственного интеллекта в социальные услуги должно быть тщательно продумано, чтобы избежать негативных последствий для уязвимых людей и обеспечить их безопасность. 

Поделиться
Искусственный интеллект
Искусственный интеллект. Фото - Pexels
Поделиться

Об этом сообщает «Politexpert» со ссылкой на Politexpert 

Использование искусственного интеллекта (ИИ) в социальных услугах становится всё более популярным. Однако не все его применения оказываются безвредными. Один из ярких примеров — использование ChatGPT в документации по защите детей, где ИИ ошибочно назвал игрушку сексуального назначения «соответствующей возрасту игрушкой». Это привело к запрету на использование генеративного ИИ в системе защиты детей в Австралии, но такие ошибки часто остаются незамеченными в других сферах.

Социальные службы применяют ИИ для повышения эффективности работы. Чат-боты, рекомендательные системы и системы оценки рисков позволяют быстрее обрабатывать данные, предоставлять психотерапевтическую помощь и даже прогнозировать риски насилия или безработицы. Однако многие из этих технологий могут быть вредными и даже травмирующими, если неправильно используются или не настроены должным образом.

Многие системы ИИ могут усилить дискриминацию или создать новые формы травм. Например, системы оценки рисков, использующие данные о неблагополучных семьях, могут несправедливо таргетировать уязвимые слои населения, такие как бедные или многонациональные семьи. Появление таких инструментов в социальной работе увеличивает риск нарушения прав людей и усиливает существующие предвзятости.

Для минимизации таких рисков важно использовать подход, ориентированный на травмированность, который учитывает потенциальный вред и опасности от применения ИИ. Специальные инструменты, такие как разработанный нами набор для оценки травматического воздействия ИИ, могут помочь социальной службе оценить безопасность технологий и их влияние на клиентов, прежде чем они будут внедрены в практику.

Напомним, ранее мы писали о том, что изменится в бизнесе к 2030 году.

Поделиться

Комментировать

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Материалы по теме
Цифровой мозг
Технологии

Блокчейн-сообщества и будущее управления: возможны ли цифровые государства?

Блокчейн-сообщества могут взять на себя функции традиционных государств, формируя новые формы управления...

Дональд Трамп
ГлавноеПолитика

Трамп объявил Antifa террористической организацией: причины и последствия решения

Президент США Дональд Трамп объявил движение Antifa террористической организацией после убийства консервативного...

Смартфоны.
Технологии

Эксперты назвали самые тонкие Android-смартфоны, которые могут конкурировать с iPhone Air (ФОТО)

Недавно компания Apple представила iPhone Air — ультратонкий смартфон с корпусом всего...

Король Чарльз
ГлавноеПолитика

Влияние короля Чарльза на позицию Трампа по Украине: что пишет Politico

Президент США Дональд Трамп прибыл в Лондон, где его встретили с королевскими...