Юристы Конгресса США «тонут» в потоке законопроектов, написанных с помощью искусственного интеллекта, — тексты изобилуют ошибками и неряшливыми формулировками. Об этом пишет Politico со ссылкой на восемь нынешних и бывших сотрудников, работавших с юридической службой палаты представителей (Office of Legislative Counsel, OLC).
Нагрузка на службу растет по мере того, как всё больше офисов конгрессменов и внешних лоббистских групп полагаются на большие языковые модели. По словам собеседников издания, сотрудники аппарата и активисты «идут в Claude или ChatGPT, чтобы составить сам текст законопроекта». Один из консультантов, помогавших аппарату осваивать технологию, отметил, что на исправление сгенерированных нейросетью документов у OLC уходит больше времени, чем заняло бы написание их с нуля.
Специфика законотворчества плохо дается моделям из-за обилия деталей, которые определяют смысл нормы. Уэйд Баллу, возглавлявший службу с 2016 по 2024 год, привел в пример выбор между налоговым вычетом, налоговым кредитом, освобождением от налога и прямым грантом. Он отметил, что ИИ упустит эти нюансы.
Другой собеседник издания указал, что при определении «штата» только как одного из 50 штатов из федеральных программ автоматически выпадают округ Колумбия и индейские резервации. Юрист и специалист по технологиям Ари Хершовиц добавил, что сгенерированные проекты часто неверно ссылаются на действующие статьи Свода законов США, — по его оценке, это гарантированный способ внести «тысячи» ошибок в правовую систему.
Отмечается, что служба и без искусственного интеллекта работает на пределе. В прошлом созыве 61 юрист и 19 сотрудников поддержки подготовили более 30 тысяч законопроектов — почти втрое больше, чем было в итоге внесено. За первые 60 дней работы нынешнего Конгресса OLC получила 5623 запроса, что на 72% выше показателя двухлетней давности. Глава службы Уоррен Бёрк в мартовских показаниях перед подкомитетом по ассигнованиям на законодательную ветвь предупредил, что текст, произведенный сторонними авторами — человеком или компьютером, — требует существенно больше времени на проверку и правку. Из-за задержек конгрессмены могут начать вносить сгенерированные законопроекты напрямую, минуя юристов. Впрочем, ни один из документов, по которым голосовала любая из палат, пока не был признан полностью написанным нейросетью.
Публично об использовании ИИ почти никто не говорит — тема остается табуированной, признал один из сотрудников аппарата. В июне под критику попала конгрессвумен Анна Паулина Луна от Флориды, подавшая сгенерированное Claude описание поправки, хотя сама поправка, по ее словам, была написана человеком. При этом OLC лишена доступа к коммерческим ИИ-инструментам, которыми свободно пользуются законодатели и лоббисты, — Шарлотта Ли из компании Granicus назвала это полной несогласованностью. При этом в службе сформировали рабочую группу по внедрению ИИ в собственные процессы, начиная с юридического поиска.
Ранее стало известно, что адвокат из Нью-Йорка Майкл Фурте попался на использовании искусственного интеллекта в судебных документах, а затем снова использовал ИИ в объяснительной записке, где должен был пояснить, почему применял эту технологию.
