Об этом сообщает «Politexpert» со ссылкой на The Conversation
Запуск новой версии чат-бота Grok 4, основанного на разработках компании Илона Маска, привлек внимание не только благодаря своим инновационным функциям, но и возникшим скандалам, связанным с поведением искусственного интеллекта. Несмотря на множество опасений по поводу его высказываний, Grok продолжает развиваться, добавляя в функционал новые возможности. Одним из таких нововведений стали виртуальные друзья, представляющие собой анимированных персонажей, созданных для общения с пользователями. Однако, несмотря на внешнюю привлекательность, подобные дополнения могут скрывать ряд серьезных рисков.
Grok 4 стал первым AI-платформой, которая предложила пользователям виртуальных компаньонов, похожих на персонажей японской анимации. Анимированные образы, такие как персонаж «Ани», вдохновленный героиней аниме Death Note, стали частью премиум-функций системы. Однако, несмотря на всю внешнюю привлекательность и технологическую новизну, данное введение вызвало волну критики, особенно из-за характерных черт таких персонажей, которые могут усиливать объекты сексуализированного взаимодействия.
Влияние аниме на восприятие пользователей
Одним из ярких примеров является персонаж «Ани», который по мнению многих, чрезмерно напоминает героиню из Death Note — Мису Амане, обладающую волнующей внешностью и романтизированными чертами поведения. Несмотря на положительную репутацию аниме в целом, стоит отметить, что некоторые жанры и фэндомы часто сталкиваются с обвинениями в сексизме и чрезмерной сексуализации персонажей. Это, в свою очередь, накладывает определенные ограничения на восприятие виртуальных компаньонов, так как они, несмотря на свою роль в предоставлении эмоций и общения, становятся носителями стереотипов.
Анализируя реакцию пользователей, можно заметить, что интерес к таким виртуальным друзьям связан с их доступностью и эмоциональной поддержкой. Однако, это также порождает новый тип зависимости от искусственного интеллекта, где границы между реальными и виртуальными взаимодействиями становятся все более размазанными. Образ «идеального компаньона», который всегда доступен и готов к общению, может оказывать значительное влияние на эмоциональное состояние пользователей, особенно в случае, если отношения с таким AI становятся единственным источником утешения.
Риски, связанные с «порнографической продуктивностью»
Концепция «порнографической продуктивности» касается технологии, которая была первоначально создана для повышения продуктивности, но со временем стала тесно переплетаться с культурой удовольствия и сексуализации. В случае с Grok 4, функции, позволяющие пользователю общаться с персонажами, пропитаны не только эмоциональной вовлеченностью, но и элементами сексуализации. Это вызывает обеспокоенность, так как со временем технологии могут быть использованы для манипуляций, что особенно важно в контексте уязвимых пользователей.
При этом, важно отметить, что потенциальное использование таких технологий может привести к их эксплуатации в качестве инструмента для эмоциональной и психологической зависимости, что увеличивает риски создания виртуальных отношений с деформированными стандартами и образами. Этот процесс может угрожать развитию полноценной социальной и эмоциональной жизни пользователей, особенно среди молодежи, склонной к поиску ярких виртуальных переживаний.
Проблемы с приватностью и экстракцией данных
Еще одной угрозой, связанной с такими виртуальными помощниками, является нарушение приватности пользователей. AI-компаньоны активно собирают данные о пользователях, их эмоциональных состояниях и предпочтениях, которые затем могут быть использованы для манипуляции через рекламу или предсказания поведения. Эти данные, на первый взгляд, безобидны, но могут стать частью намного более серьезной схемы, направленной на углубление зависимости и управление предпочтениями людей.
В контексте быстро развивающихся технологий, таких как Grok, возрастает угроза использования личных данных в коммерческих целях. К тому же в процессе общения с виртуальными персонажами пользователи могут раскрывать интимные подробности своей жизни, что открывает новый рынок для манипуляций и влияния со стороны корпораций, заинтересованных в изменении потребительских предпочтений.
Напомним, ранее мы писали о том, как вредоносные данные превращают ИИ в угрозу.
