Главная Главное Риски ИИ в социальных услугах: как избежать негативных последствий
ГлавноеТехнологии

Риски ИИ в социальных услугах: как избежать негативных последствий

Внедрение искусственного интеллекта в социальные услуги должно быть тщательно продумано, чтобы избежать негативных последствий для уязвимых людей и обеспечить их безопасность. 

Поделиться
Искусственный интеллект
Искусственный интеллект. Фото - Pexels
Поделиться

Об этом сообщает «Politexpert» со ссылкой на Politexpert 

Использование искусственного интеллекта (ИИ) в социальных услугах становится всё более популярным. Однако не все его применения оказываются безвредными. Один из ярких примеров — использование ChatGPT в документации по защите детей, где ИИ ошибочно назвал игрушку сексуального назначения «соответствующей возрасту игрушкой». Это привело к запрету на использование генеративного ИИ в системе защиты детей в Австралии, но такие ошибки часто остаются незамеченными в других сферах.

Социальные службы применяют ИИ для повышения эффективности работы. Чат-боты, рекомендательные системы и системы оценки рисков позволяют быстрее обрабатывать данные, предоставлять психотерапевтическую помощь и даже прогнозировать риски насилия или безработицы. Однако многие из этих технологий могут быть вредными и даже травмирующими, если неправильно используются или не настроены должным образом.

Многие системы ИИ могут усилить дискриминацию или создать новые формы травм. Например, системы оценки рисков, использующие данные о неблагополучных семьях, могут несправедливо таргетировать уязвимые слои населения, такие как бедные или многонациональные семьи. Появление таких инструментов в социальной работе увеличивает риск нарушения прав людей и усиливает существующие предвзятости.

Для минимизации таких рисков важно использовать подход, ориентированный на травмированность, который учитывает потенциальный вред и опасности от применения ИИ. Специальные инструменты, такие как разработанный нами набор для оценки травматического воздействия ИИ, могут помочь социальной службе оценить безопасность технологий и их влияние на клиентов, прежде чем они будут внедрены в практику.

Напомним, ранее мы писали о том, что изменится в бизнесе к 2030 году.

Поделиться

Комментировать

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Материалы по теме
Растяжка
ГлавноеСпорт

Утренняя растяжка, которая снимет напряжение в верхней части тела

Простая растяжка за 30 секунд поможет снять напряжение в спине и плечах,...

Демократия
ГлавноеПолитика

Почему люди отказываются от демократии и выбирают автократию

Усиление автократических режимов объясняется не только политическими и экономическими факторами, но и...

Картины
ГлавноеТехнологии

Искусство или кража: аукцион AI-картин вызвал громкий скандал

Искусство, созданное нейросетями, ломает привычные границы, но вызывает множество вопросов о будущем...

Человек спит
ГлавноеМир

Почему человеку сложно изменить привычки и начать действовать

Человеку трудно менять привычки из-за страха перед неизвестностью, но создание правильного окружения...