Израильская коллегия адвокатов: нельзя передавать ИИ полномочия консультировать и вести процессы

Национальный комитет по этике Коллегии адвокатов Израиля опубликовал обновленное разъяснение касательно работы с ИИ-агентами.

Согласно новому документу, автономным системам и агентам искусственного интеллекта категорически запрещено принимать вместо адвоката существенные юридические решения, самостоятельно давать юридические консультации, составлять судебные документы или продвигать юридические процессы без непосредственного контроля и одобрения человека.

В разъяснении отмечается, что системы искусственного интеллекта больше не ограничиваются инструментами, выдающими разовый результат в ответ на запрос пользователя, а могут включать компоненты или системы, действующие с более высокой степенью автономии, способные самостоятельно планировать последовательность действий, выбирать инструменты и взаимодействовать с внешними системами без вмешательства человека.

Комитет подчеркивает: чем выше уровень автономии такой системы, тем сильнее сопутствующие этические, профессиональные и процессуальные риски.

При этом технические, ограниченные, задокументированные и отменяемые операции, выполняемые во исполнение ранее принятого человеком решения и в рамках четких параметров, надлежащих проверок и человеческого надзора, не запрещены. Само наличие в системе автономного компонента не запрещает ее применение, но обязывает адвоката тщательно оценивать соответствие такого использования цели представительства, характер допустимых операций и фактический уровень человеческого контроля.

Адвокат несет личную и непосредственную ответственность за каждое профессиональное действие, решение, консультацию, довод или результат работы, совершаемые им или от его имени с использованием систем искусственного интеллекта.