Об этом сообщает «Politexpert» со ссылкой на The Conversation
Современное общество невозможно представить без программного обеспечения. Почти все устройства, от автомобилей до мобильных телефонов, наполнены миллионами строк кода. С ростом потребности в новых и более совершенных программах, возникает проблема нехватки разработчиков. Решение заключается в использовании искусственного интеллекта (ИИ) для помощи в создании программ. Однако с увеличением роли ИИ в разработке возникает важный вопрос: можно ли доверять программам, созданным этим искусственным интеллектом?
Сегодня ИИ помогает программистам в разработке кода, предоставляя инструменты, подобные GitHub Copilot, которые выполняют роль «умного автозаполнения». Но грядет более серьезная перемена — ИИ-агенты, которые будут выполнять разработку программных приложений почти самостоятельно. Эти агенты обучаются и принимают решения с определенной степенью автономии, что позволяет им создавать программное обеспечение на основе простого текстового описания пользователя.
Система ИИ-агентов несет в себе как позитивные, так и негативные стороны. С одной стороны, такие технологии позволяют людям без навыков программирования создавать нужное им ПО, а с другой — могут привести к созданию уязвимого или неэффективного кода. Например, ИИ-агент, разрабатывающий софт для набора персонала, может непреднамеренно склоняться к предвзятости в пользу одного пола из-за данных, на которых он был обучен. Для предотвращения таких рисков необходимо разработать механизмы, регулирующие действия ИИ.
Чтобы минимизировать возможные негативные последствия, исследователи проводят интенсивные тесты на основные системы ИИ, такие как большие языковые модели. Эти системы формируют основу для работы ИИ-агентов, и их тестирование позволяет выбрать наилучший вариант для разных задач. Такой подход помогает гарантировать, что программы, созданные ИИ, будут безопасны и не будут содержать серьезных ошибок или предвзятости.
Создание ПО с помощью ИИ-агентов предполагает использование «планов» или «чертежей» — своего рода схем для разработки. Такой подход, как низкокодовая или безкодовоя разработка, позволит каждому пользователю, даже без опыта в программировании, предложить изменения или улучшения для разрабатываемого софта. Этот процесс дает возможность людям не просто следовать инструкциям, а активно участвовать в создании программ, что открывает новые горизонты для автоматизации и инноваций.
Напомним, ранее мы писали про переключение между ИИ и реальностью.
