Главная Главное Риски ИИ в социальных услугах: как избежать негативных последствий
ГлавноеТехнологии

Риски ИИ в социальных услугах: как избежать негативных последствий

Внедрение искусственного интеллекта в социальные услуги должно быть тщательно продумано, чтобы избежать негативных последствий для уязвимых людей и обеспечить их безопасность. 

Поделиться
Искусственный интеллект
Искусственный интеллект. Фото - Pexels
Поделиться

Об этом сообщает «Politexpert» со ссылкой на Politexpert 

Использование искусственного интеллекта (ИИ) в социальных услугах становится всё более популярным. Однако не все его применения оказываются безвредными. Один из ярких примеров — использование ChatGPT в документации по защите детей, где ИИ ошибочно назвал игрушку сексуального назначения «соответствующей возрасту игрушкой». Это привело к запрету на использование генеративного ИИ в системе защиты детей в Австралии, но такие ошибки часто остаются незамеченными в других сферах.

Социальные службы применяют ИИ для повышения эффективности работы. Чат-боты, рекомендательные системы и системы оценки рисков позволяют быстрее обрабатывать данные, предоставлять психотерапевтическую помощь и даже прогнозировать риски насилия или безработицы. Однако многие из этих технологий могут быть вредными и даже травмирующими, если неправильно используются или не настроены должным образом.

Многие системы ИИ могут усилить дискриминацию или создать новые формы травм. Например, системы оценки рисков, использующие данные о неблагополучных семьях, могут несправедливо таргетировать уязвимые слои населения, такие как бедные или многонациональные семьи. Появление таких инструментов в социальной работе увеличивает риск нарушения прав людей и усиливает существующие предвзятости.

Для минимизации таких рисков важно использовать подход, ориентированный на травмированность, который учитывает потенциальный вред и опасности от применения ИИ. Специальные инструменты, такие как разработанный нами набор для оценки травматического воздействия ИИ, могут помочь социальной службе оценить безопасность технологий и их влияние на клиентов, прежде чем они будут внедрены в практику.

Напомним, ранее мы писали о том, что изменится в бизнесе к 2030 году.

Поделиться

Комментировать

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Материалы по теме
Технологии
Технологии

Забытая машина, изменившая интернет и способная помочь выжить в эпоху ИИ

Идея мемекса, возникшая 80 лет назад, стала фундаментом для современных интернет-технологий, а...

Фицо
ГлавноеЭкономика

Словакия готова поддержать новые санкции против России при условии смягчения газового эмбарго

Словакия готова поддержать новые санкции против России только после достижения соглашений по...

Трамп
ГлавноеПолитика

Почему риторика Трампа в отношении Украины не означает реального изменения политики США

Риторика Дональда Трампа в отношении Украины меняется под давлением обострения конфликта, однако...

Кишечник
Технологии

Умная капсула Caltech: новая эра диагностики кишечника без боли и операций

Капсула PillTrek представляет собой миниатюрную биолабораторию, которую можно проглотить, и которая фиксирует...