Об этом сообщает «Politexpert» со ссылкой на HackerNoon
С развитием технологий все больше правовых документов генерируется автоматически, что вызывает обеспокоенность по поводу утраты ответственности и этического следа. Когда юридический текст создается без участия человека, грамматическая структура документов может оставаться без должной этической оценки. Это приводит к серьезным проблемам, таким как отсутствие ясной ответственности и невозможность отслеживания авторства.
Сложности возрастают, когда юриспруденция начинает использовать автоматизированные системы, такие как большие языковые модели (LLM), которые составляют правила и законы без учета их интерпретации.
Тексты, сгенерированные с помощью таких систем, теряют важные элементы — кто несет ответственность за их создание, какие намерения стояли за этими решениями, и на каких основаниях принимаются решения. В итоге юридическая система может стать лишь интерфейсом, где власть больше не выдается, а просто выполняется. Это особенно актуально в ситуациях, когда необходимо обеспечить отслеживаемость решений и их последствия для участников правового процесса.
Потери из-за автоматизации в правовом контексте
Автоматизация юридической работы, особенно с использованием языковых моделей, привела к нескольким структурным изменениям, которые затрудняют адекватную оценку и принятие решений. Одним из таких изменений является использование пассивного залога и номинализации, что приводит к потере активности и силы в выражении решений. Например, фразы типа «Требуется, чтобы…» вместо «Агентство требует…», а также «соблюдать» вместо «принять решение», приводят к утрате контекста и личной ответственности.
- Автоматизация приводит к скрытию ответственности за действия, что делает невозможным привлечение к ответственности конкретных лиц или учреждений.
- Сложность трактовать такие документы усиливается, так как правила и обязательства часто скрыты за неопределенными формулировками и отсутствием явных обязательств.
Эти структурные изменения делают юридический текст формальной процедурой, а не реальной нормой, имеющей последствия для правопорядка. Тексты становятся исполнимыми, но не применяемыми в полном объеме, что делает их юридически бессмысленными в некоторых случаях.
Последствия для ответственности и интерпретации
Когда правовой текст не имеет явного авторства или субъекта, который несет ответственность за его создание, нарушается важнейший принцип юридической системы: ответственность. Это приводит к юридическим последствиям, таким как отсутствие ответственности за ошибки или упущения в нормативных актах, что в свою очередь снижает эффективность судебного контроля и ослабляет демократическую легитимность.
- Без четко определенного автора или ответственного лица нарушается цепочка ответственности, что может привести к правовой неуверенности.
- Если нет четкой иерархии или механизма контроля за соблюдением норм, законы становятся лишь пустыми формулами, не имеющими реального воздействия.
Правовая система, основанная на таких текстах, не способна адекватно реагировать на нарушения, поскольку отсутствие конкретных ссылок на участников и их действия приводит к юридической бездействию. Это делает важные решения пустыми декларациями, не подкрепленными действительной правовой силой.
Напомним, ранее мы писали о том, как защититься от взлома и подделки.