Об этом сообщает «Politexpert» со ссылкой на HackerNoon
Активное внедрение искусственного интеллекта во все сферы деятельности всё чаще сопровождается маркетингом, приравнивающим ИИ к идеальному сотруднику. Однако специалисты предупреждают: за кажущейся «интеллектуальностью» технологий часто скрывается обычная автоматизация и перераспределение труда, мало отличающееся от аутсорсинга. По сути, бизнес передаёт выполнение задач не другому человеку или компании, а алгоритму, лишённому понимания и контекста.
Технологические эксперты, в том числе Георг Цёллер, подчёркивают, что текущие модели ИИ, включая трансформеры, не обладают интеллектом в традиционном смысле. Они анализируют данные, формируют отклики и выполняют действия на основе статистических моделей, но не имеют осознания. Тем не менее компании продолжают придавать технологиям свойства разума, чтобы оправдать инвестиции и стимулировать доверие со стороны потребителей.
Потенциальные риски автоматизации
Одной из ключевых проблем остаётся уязвимость моделей к так называемым инъекциям инструкций. Это ситуация, когда пользовательский ввод маскируется под управляющую команду, что может менять поведение системы. Такие сценарии представляют угрозу при использовании ИИ в критических инфраструктурах — от подбора персонала до финансовых решений и военных разработок.
Нестабильность обработки команд, смешанных с пользовательскими данными, особенно актуальна при использовании агентов на базе трансформеров. Подобные агенты могут выполнять действия в сети, в том числе финансовые операции, не отличая злонамеренные указания от обычной информации. Отсутствие разграничения между инструкцией и входными данными превращает ИИ в потенциально опасный инструмент без должного контроля.
Давление со стороны инвесторов
Одним из факторов, стимулирующих гиперболизацию возможностей ИИ, становится давление со стороны рынка и инвесторов. Только в 2024 году инвестиции корпораций в ИИ-сектор достигли десятков миллиардов долларов. Такая концентрация капитала требует быстрой окупаемости, что вынуждает компании поддерживать нарратив о скором наступлении всеобщей автоматизации.
Подобный маркетинговый подход создаёт искажение восприятия: технологии преподносятся как решения с «магическими» возможностями. При этом реальный уровень развития моделей ИИ существенно ниже заявленного. Это вызывает опасения, что ИИ стал не инструментом развития, а новой идеологией, прикрывающей экономические интересы и перераспределение ресурсов.
Последствия массовой автоматизации
Большинство задач, которые сегодня передаются ИИ, не требуют мышления — они сводятся к повторяющимся действиям. Это делает ИИ идеальным инструментом для замещения труда, аналогично тому, как аутсорсинг изменил индустрию производства. Однако, как и в случае с передачей задач другим компаниям, у такого подхода есть риски: потеря контроля, снижение качества и утрата конкурентных преимуществ.
Опасность заключается в том, что платформы, на которые возлагаются задачи — от генерации контента до обработки данных — могут сами использовать полученную информацию для создания собственных продуктов, исключая компании-заказчики из цепочки прибыли. Пример Amazon Basics показывает, как данные от сторонних продавцов стали основой для запуска внутренних конкурирующих брендов.
Сигналы для рынка, а не для технологий
Упоминание ИИ в стратегии компании стало рыночным сигналом. Игнорирование темы ИИ может быть воспринято инвесторами как слабость или отсутствие перспектив. В результате даже компании, не имеющие чёткой стратегии по ИИ, вынуждены демонстрировать активность в этом направлении, чтобы сохранить привлекательность для акционеров.
Этот феномен усиливает разрыв между реальными возможностями технологий и ожиданиями. Индустрия всё больше превращается в гонку за вниманием и капиталом, а не в поиск оптимальных решений. Финансовое давление и конкуренция трансформируют ИИ из инструмента повышения эффективности в механизм рыночной манипуляции.
Напомним, ранее мы писали о том, как нам контролировать будущее.